OpenAI、Anthropic等研究人员呼吁政策制定者关 22:24

9月28日，一场关于AI未来的警示钟声敲响。来自OpenAI、Anthropic、Meta和微软的研究人员联合发声，他们呼吁政策制定者将目光聚焦于AI研发的自动化程度。这份报告直指核心，指出当前的AI系统已经能够完成开发AI所需的大部分代码工作。

说白了，这事儿有讲究。随着AI研发流程一步步走向自动化，所谓的“智能爆炸”可能会随之而来。这意味着啥？AI能力的进步速度，将从现在的按年计算，被硬生生压缩到数月，甚至是更短的时间窗口里。

报告里的预测相当大胆。它提到，AI系统在未来几年内，有可能实现大部分乃至全部的AI研发工作自动化。一旦“智能爆炸”真的发生，后果将是双刃剑。一方面，AI技术带来的红利会被大幅加速；另一方面，风险也在疯狂积聚。

最让人捏把汗的是两个点。一是AI能力的增长，可能会远远甩开社会的应对能力；二是人类极有可能彻底失去对超人类AI系统的掌控权。这可不是危言耸听，而是基于技术趋势的严肃推演。面对这种局面，报告给出的药方很明确。政策制定者必须提升对AI研发自动化水平的认知，同时深入研究如何有效引导和约束相关技术的发展方向。