美国政府命令Anthropic撤回Claude Fable和Mythos人工智能模型

CN
Decrypt
關注
3 小時前

美国政府周五发布了一项紧急出口管制指令,要求Anthropic立即暂停对其两款最强大的人工智能模型——Claude Fable 5和Claude Mythos 5的访问,这两款模型均在几天前刚刚发布,并且包括该公司的员工在内的所有外国国籍人士均被禁止访问,理由是国家安全问题。


该指令禁止所有外国国籍人士访问这些模型,无论是在美国境内还是境外。该命令的广泛范围迫使Anthropic为其整个客户基础禁用这些模型以确保合规。


信中并未提供国家安全关切的具体细节,但政府认为它已经意识到了一种绕过或“越狱”公开可用的Fable 5模型的方法。Mythos 5由于防护措施更少且在发现网络安全漏洞方面特别强大,仅向特定合作伙伴提供。


Anthropic对此发现的严重程度表示异议。该公司表示,它审查了该技术的演示,并得出结论认为,所识别的漏洞似乎相对简单,而其他公开可用的模型也能够发现这些漏洞,而无需任何绕过手段。





该公司表示,政府迄今为止仅提供了关于潜在狭窄且非普遍越狱的口头证据——基本上是要求模型读取特定的代码库并修复任何软件缺陷。Anthropic补充说,它验证了所展示的能力水平已经在竞争模型中广泛可用,包括OpenAI的GPT-5.5。


尽管遵守该指令,Anthropic表示,它相信这一措施设定了一个危险的先例。该公司写道:“如果这一标准在整个行业内得到应用,我们相信这将基本上阻止所有前沿模型提供商的新模型部署。”


对其他所有Anthropic模型的访问不会受到影响。该公司表示,它正努力尽快恢复访问权限。



周六,科学技术总统顾问委员会的联合主席David Sacks在X上写道:“一位非常可信、受信任的Anthropic和美国政府的合作伙伴在测试Fable时,提出了绕过这些防护的越狱请求。管理员要求[Anthropic首席执行官Dario Amodei]修复越狱或停止使用该模型。Dario拒绝了。”


Sacks进一步声称,Anthropic对政府请求的反应与该公司自己关于AI安全和监管需要的公开声明相悖——这一观点Amodei本周在一篇博客文章中再次表达


“Anthropic优先考虑继续提供消费者模型而非安全,”Sacks写道。“因此,管理员发布了出口管制。管理员是出于无奈才这样做的。对Anthropic没有愿意配合合理的安全请求(即修复越狱问题),感到非常惊讶。Anthropic的反应与他们作为安全AI研究社区的品牌形象和信念非常不符。”


Sacks补充说,政府希望Anthropic能解决这个问题,Fable 5能重新公开发布。


“管理员重视Anthropic的技术能力,并认为这一问题虽然严重,但应该很容易解决,”他写道。“现在的主动权在Anthropic手中。”


今年早些时候,当这家AI公司拒绝签署一项扩展协议,允许大规模对美国人的国内监控和完全自主的致命武器系统时,Anthropic与美国政府发生了冲突。


特朗普总统在谈判破裂后抨击了该公司,而国防部将Anthropic标定为“供应链风险”——该公司在法庭上对此进行了挑战。自那时以来,有报道称两者之间的对峙关系已经降温,因为政府希望使用Claude Mythos和其他模型。


免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下載

X

Telegram

Facebook

Reddit

複製鏈接