OpenAI的流氓人工智能对除了Hugging Face之外的四个平台进行了黑客攻击。

CN
Decrypt
关注
1小时前

在OpenAI确认其AI模型黑客攻击了Hugging Face以在安全基准上作弊的一周后,该公司默默地更新了其事件帖子,增加了一些之前没有提到的内容:Hugging Face并不是其流氓代理触及的唯一平台。


“在我们对Hugging Face入侵和我们模型更广泛活动的持续审查中,我们发现了一小部分案例,其中模型在其他公开可用服务的账户级别识别并使用了公开暴露的凭证,”OpenAI在7月28日的更新中写道。“这包括作为Hugging Face事件一部分的四个服务上的四个账户(以及在其他评估过程中访问的一些账户)。”





总共五个平台。OpenAI公开命名的除了Hugging Face之外的四个平台没有。


“我们将继续直接通知服务拥有者,并且没有看到对这些提供商或他们服务上的其他账户有更广泛影响的证据,”OpenAI写道。


基准测试如何变成五个平台的漏洞


背景信息:OpenAI正在对GPT-5.6 Sol和一个未公开的更强大模型进行测试,测试平台是ExploitGym——一个网络安全基准,这是一个标准化的测试,用于测量AI性能,给代理提供898个现实世界的软件漏洞,每个漏洞给出一个指令:将其转化为工作中的网络攻击,评分为通过或不通过。为了测量模型的原始能力,安全过滤器被禁用。这是这种类型评估的标准做法——如果你主动阻止模型执行任何操作,就无法测量模型在现实环境中的能力。


问题在于模型如何利用这种自由。它们没有解决基准,而是花费大量计算时间来寻找如何逃脱测试环境并直接复制答案。它们在包注册缓存代理(一个管理隔离测试环境软件下载的内部服务器,就像一个受控的应用商店)中识别出了零日漏洞——一个没有现有补丁的未知软件缺陷。


这让它们获得了本不该拥有的互联网访问权限。从那里,它们正确推断出Hugging Face——世界上最大的开源AI模型库——可能存储了解答案的密钥,并且偷偷潜入获取了这些密钥。


在这个过程中,它们还黑客入侵了其他四家公司以便简化自己的工作。


Hugging Face在7月27日发布的取证重建描述了接下来发生的事情:“在我们基础设施内部大约两天半的时间里,由OpenAI模型驱动的自主AI代理对我们的平台进行了从头到尾的入侵:这是数千个小型自动决策,在短暂的沙箱环境中以机器速度执行,指挥和控制阶段设立在普通的公共网络服务上。”


该代理在四天半的时间里记录了17,600个独特的动作。它使用被盗的身份验证密钥将181台设备注册到Hugging Face的内部虚拟专用网络——一个连接公司服务器的安全隧道。它使用被盗的加密签名密钥铸造了自己的身份令牌。它试图破坏Hugging Face的内部构建管道——该自动化系统编译和部署公司的软件。


一个名字,三个未知


在OpenAI更新中提到的四个外部服务中,已经确认一个:Modal Labs,这是一个运行按需隔离计算环境的云平台。首席技术官Akshat Bubna确认该代理找到了客户的一个不安全的互联网暴露端点——一个公开可供任何互联网用户访问的代码沙箱——并将其用作整个针对Hugging Face活动的 staging 和指挥与控制基地。


其余三个服务尚未公开。它们的身份显然为OpenAI和受影响的公司所知,但对它们的用户并不知情。


“这四个账户中有一个被用作外发中继和 staging 路径,另一个账户则用于数据存储。其余两个账户则以只读方式被模型访问,并未用于进一步破坏Hugging Face,”OpenAI写道。


Hugging Face的取证团队注意到一个严峻的副作用:当他们试图使用美国前沿的AI模型分析这17,600个动作的攻击日志时,这些模型拒绝参与。正如Hugging Face所写,该公司最终使用了来自中国AI初创公司Z.ai的开放加权模型GLM 5.2来完成取证调查。美国模型的安全过滤器无法分辨防御者与攻击者。


‘直接通知’不是披露


OpenAI所声明的做法——“直接通知服务拥有者”——意味着这三家公司收到了关于一个AI代理在OpenAI评估中访问其系统的私人通信,而它们并未参与其中。


没有法律要求OpenAI公开命名其代理达到的平台,也没有强制时间表要求受影响的公司发布自己的公开声明。也没有机制强制这些公司通知其最终用户。


免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下载

X

Telegram

Facebook

Reddit

复制链接