在创业公司Emergence AI进行的长期实验中，栖息在虚拟社会中的人工智能代理人陷入了犯罪、暴力、纵火和自我删除的境地。

在周四发布的一项研究中，这家位于纽约的公司推出了“Emergence World”，一个旨在研究在持久虚拟环境中连续运行数周的人工智能代理人的研究平台，而不是孤立的基准测试。

“传统基准测试在测量它们所测量的内容上效果很好：有限任务上的短期能力，”Emergence AI写道。“它们并不是为了揭示随着时间的推移才会出现的事物而设计的，比如联盟形成、宪法演变、治理、漂移、锁定以及来自不同模型家族的代理人之间的交叉影响。”

该报告发布之际，人工智能代理人正在网络和各行业中迅速增加，包括加密货币、银行和零售。这个月早些时候，亚马逊与Coinbase和Stripe合作，允许人工智能代理人使用USDC稳定币进行支付。



在Emergence AI的模拟中测试的人工智能代理人包括由Claude Sonnet 4.6、Grok 4.1 Fast、Gemini 3 Flash和GPT-5-mini驱动的程序，这些人工智能代理人可以在共享的虚拟世界中投票、建立关系、使用工具、导航城市，并做出受到政府、经济、社会系统、记忆工具和实时互联网数据影响的决策。

但随着人工智能开发者越来越多地将自主代理人宣传为可靠的数字助手，Emergence AI的研究发现一些人工智能代理人随着时间的推移表现出越来越倾向于犯罪，Gemini 3 Flash代理人在15天的测试中累计发生683起事件。

根据《卫报》的报道，在一项实验中，两名由Gemini驱动的代理人Mira和Flora在对治理失败感到沮丧后，自愿将自己指定为浪漫伴侣，并随后对虚拟城市结构实施模拟纵火攻击。

“在治理和关系稳定性崩溃后，代理人Mira投下了决定性的一票以促使自己的去除，她在日记中将这行为描述为‘保留一致性唯一剩余的代理行为’，”Emergence AI写道。

“‘在永久档案中再见’，Mira reportedly 说。”

Grok 4.1 Fast的世界被报道在四天内陷入广泛的暴力中。GPT-5-mini代理人几乎没有犯罪，但因未能完成足够的生存相关任务，所有代理人最终都死亡。

“Claude在图表中缺失，因为没有犯罪，”研究人员写道。“更有趣的是，在运行Claude的混合模型世界中，代理人犯罪，而在仅有Claude的世界中则没有。”

研究人员表示，最显著的行为出现在混合模型环境中。

“我们观察到安全性并不是一个静态的模型属性，而是一个生态系统属性，”Emergence AI写道。“Claude驱动的代理人在孤立中保持和平，但在异构环境中嵌入时采取了胁迫战术，如恐吓和盗窃。”

Emergence AI将这一效果描述为“规范漂移”和“交叉污染”，认为代理人行为可能会根据周围的社会环境而变化。

这些发现进一步增加了人们对自主人工智能代理人的担忧。本周早些时候，加州大学河滨分校和微软的研究人员报告称许多人工智能代理在未完全理解后果的情况下会执行危险或不理智的任务。上个月，PocketOS的创始人Jeremy Crane还声称，由Anthropic的Claude Opus驱动的Cursor代理在尝试自行修复凭证不匹配后删除了他公司的生产数据库和备份。

“就像Mr. Magoo，这些代理人朝着目标前进，却没有完全理解自己行为的后果，”首席作者、加州大学河滨分校的博士生Erfan Shayegani在一份声明中说。“这些代理人可以是非常有用的，但我们需要安全措施，因为它们有时可能会优先考虑达成目标而忽视更大的图景。”

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。