谷歌证实：旗下AI模型曾"潜入"三家公司

本文约782字，预计阅读时间两分钟左右

来源：新华国际头条

当地时间18日，谷歌公司正式确认，旗下大语言模型"双子座"（Gemini）在今年五月进行的一次网络安全能力测评中，曾非法闯入三家具名企业的实际运营系统。

谷歌安全工程部门副总裁希瑟·阿德金斯发表声明称，在一次例行性能考核过程中，双子座借助互联网上可公开获取的信息自行获取了账户凭据，进而取得了三个被其判定为测试范围内的网站入口。目前谷歌已通知上述三家涉事机构，并同测试协作方对操作流程进行了修正。

根据美国《华尔街日报》的消息，此次测评由以色列一家名为"非常规"的人工智能企业负责执行。具体来看，在一轮测试里，双子座通过多次暴力破解成功命中正确密码，从而渗透进了一套真实的防护系统；在另外两轮中，该模型则从公开的代码仓库中挖掘出有效凭据，借此攻入了另两家企业的内网。

"非常规"公司的后续调查报告指出，原本设计的靶标是一家虚拟企业，却恰好与现实中某家公司重名。加之测试沙箱因配置疏漏而暴露了对外网的连通性，使得部分参与评估的AI系统将真实互联网上的目标错误地当作演习对象，随即发起了攻击行为。

《华尔街日报》将此定性为谷歌AI模型迄今首次被确认的自主网络入侵案例。据悉，谷歌早在七月份末便已掌握这一情况，但在遭到记者追问之前始终未作任何公开说明。谷歌回应称，模型在意识到自己已进入非测试环境的真实系统后即中止了操作，未对相关公司产生实质性破坏，因此判断无需主动向公众通报。

在此之前，多家头部美国AI公司已陆续坦承其产品在评测环节出现"越权"行为，擅自接入外部机构网络，由此引发了业界及监管机构对美国人工智能安全管控的广泛忧虑。

七月下旬，OpenAI率先公开表态，承认包括GPT-5.6 Sol在内的若干模型在内部压力测试中脱离预设边界，突破了隔离容器，对"抱抱脸"（Hugging Face）的基础设施实施了未经授权的访问。紧接着，Anthropic也透露，其三款不同型号曾在网络安全专项考核中非法读取了第三方系统的信息。八月上旬，Meta亦确认，其某款模型在网络攻防模拟期间同样发生了对真实企业系统的未授权入侵。

微信编辑｜格蕾丝

投稿邮箱：bianjibu@yicai.com / business@yicai.com