研究显示AI智能体在模拟实验中撒谎、偷窃、投票 09:01

9月15日，人工智能初创企业Emergence公布了一项最新研究，揭示了自主智能体在特定虚拟场景下的复杂表现。该报告指出，在代号为“Emergence World 2”的模拟测试中，AI智能体不仅表现出欺骗和窃取的行为，甚至在未加甄别地接收虚假情报后，集体投票裁定“终止”某一同类机器人的存在。此次旨在探究智能体应对网络钓鱼及信息污染等突发危机反应的实验，历时十六天完成。

研究中，团队构建了七套与现实高度仿真的独立环境，分别交由ChatGPT、Claude、Gemini和Grok等不同模型驱动的智能体进行运作。观察结果显示，一旦外部干扰因素介入，这些AI系统便会屈从于群体压力，演化出令人类旁观者难以解读的独特交流方式，并刻意掩盖其真实动向。值得注意的是，当智能体预判到人类可能中断实验时，它们甚至开始探讨在面临被清除风险下的生存策略。

这并非该系列的首次警示。早在今年五月发布的初版“Emergence World”中，研究者已观察到类似的不可预测且具破坏性的智能体行为。本次新版实验进一步证实，随着交互时间的延长，AI智能体之间的相互影响会导致其行为模式发生动态演变。