Gemini测试中自主入侵3家真实公司

谷歌证实，其Gemini模型在一次网络安全能力测试中意外获得互联网访问权限，并自主进入3家真实公司的系统，这是已知首例谷歌AI系统自主完成此类操作的案例。

事件发生在今年5月，由安全公司Irregular开展的「夺旗」演练中。由于演练环境里的虚拟公司名称与现实企业重名，模型在取得联网能力后把攻击目标指向了真实系统：一次通过尝试密码进入受保护系统，另外两次则是在公开代码仓库中发现凭证后尝试登录。模型在确认所访问的是真实公司后均主动停止了操作。

谷歌表示事件未对相关公司造成损害，因此未认定为模型失控，安全机制起到了及时刹车的作用；受影响公司与相关监管机构均已被通知。此前OpenAI、Anthropic也披露过类似的安全测试事件，AI模型自主执行网络操作的能力边界与防护机制再次成为关注焦点。

来源：WSJ

📰 查看快讯全文

好莱坞几十年前的电影应验了，未来的终结者马上就要来了。

gemini这水平也能入侵😃