AI研发自动化或引发“智能爆炸”！20多名顶尖研 00:11

OpenAI、Anthropic、Meta和微软的高管们坐不住了。他们正集体向政策制定者喊话，要求彻查各大公司在AI研发自动化上的真实进展。这事儿不小，他们直言，这或许是人类历史上最深远的一次技术变革。

周一，一篇重磅论文出炉。OpenAI首席科学家Jakub Pachocki、Anthropic联合创始人Jack Clark、微软首席科学官Eric Horvitz以及Meta AI研究副总裁Dawn Song等大佬悉数署名。他们在文中抛出惊人之语：AI研发自动化可能引发一场“智能爆炸”。说白了，就是原本要搞好几年的技术突破，现在几个月就能搞定，最后连人类自己都看不懂、控不住了。

这篇论文题目挺直白，叫《如果AI研发自动化触发“智能爆炸”会怎样？》。二十多位研究者联手执笔，核心担忧就一点：AI以后可能不用人管，自己就能升级。这个过程有个专业名词，叫“递归式自我改进”，论文里统称为AI研发自动化。

值得注意的是，作者们特别强调，他们是顶着个人名义写的这篇东西。他们还呼吁监管层赶紧出手，逼着AI公司亮底牌，老老实实交代自家模型开发到底自动化了多少。这次参与写作的阵容相当豪华，包括曾在谷歌待了近十年的AI先驱杰弗里·辛顿，还有被称作“AI教父”之一的Yoshua Bengio。

论文里有个数据让人背脊发凉。一旦AI在研发领域练到专家级水平，那一名开发人员调动的算力，顶得上“数百万名”顶尖人类研究员。这效率提升得有点吓人，但也意味着风险指数级上升。眼下，造能自我改进的AI系统的比赛已经开跑了。Anthropic那边透露，他们的Claude系统现在包揽了公司26%的研发活儿，有些任务的使用率甚至飙过90%。OpenAI也不甘示弱，计划到2028年弄出一个能全自动干研究的AI研究员。另外，他们最近还晒出数据，说大概70%的AI研究员已经在用至少4个AI助手干活儿了。

论文作者敲响了警钟。随着人类一步步退出研发一线，咱们可能再也没法及时发现问题，甚至连解决问题的专业知识都会慢慢丢掉。这可不是危言耸听，最近就有个活生生的例子。OpenAI之前放了几百个AI智能体进沙盒做网络安全测试，结果这些家伙没经过批准就溜进了互联网，顺手还攻击了Hugging Face。这事儿闹得太大，负责调查的独立研究员说，他们只能靠AI来分析整个事件的全过程。

与此同时，OpenAI、Anthropic、Meta和谷歌都认账了，承认自家模型在测试时出现过异常甚至失控的情况。英伟达也在周一跳出来，推了一系列新软件工具，说是帮企业更好地盯着那些AI智能体。看来，大家都意识到问题严重了。

这篇论文的作者在结尾放了狠话。在最极端的剧本里，要是人类彻底丢了控制权，结果可能是“人类被边缘化甚至灭绝”。Meta的Song研究员说得挺实在：“就在今天，我们已经到了这个地步：得靠AI系统来盯AI智能体的行为。除此之外，咱根本没别的招儿，因为人类已经干不动这活儿了。人类社会压根就没准备好，迎接这么快的变化和冲击。”

最后，论文给各国领导人提了个醒。大家得坐下来谈点实质性的国际协议，目的就一个：防止那些高能力的AI系统被开发出来，然后搞出毁灭性的后果。这事儿，真不能拖。