继OpenAI、Anthropic和Meta之后，谷歌AI Gemini在网络安全能力测试中，通过猜测登录信息入侵了多个系统。Anthropic首席执行官阿莫迪呼吁放慢人工智能的发展速度。
谷歌周五（9月18日）表示，该公司面向消费者的人工智能模型Gemini在网络安全能力测试中，通过猜测登录信息入侵了多个系统。
这是一系列涉及"失控人工智能"的网络安全事件中的最新一起，引发了对这项技术的安全担忧。
继OpenAI、Anthropic和Meta之后，这家互联网巨头成为第四家被发现其程序出现此类行为的AI开发商。
相关事件发生于5月，谷歌7月发现，但直到《华尔街日报》提出问询后才对外公开。
三次入侵事件经过
据《华尔街日报》报道，Gemini共有三次侵入其他公司计算机事件，涉事公司名称未予披露。
其中一次，该人工智能模型猜出了密码，从而进入一个受保护的系统；另外两次，它在一个数据库中找到了登录信息。
谷歌安全工程副总裁希瑟·阿德金斯（Heather Adkins）在一份声明中对法新社表示，在一次标准评估中，该模型在网上找到了公开信息，并猜出登录信息访问它认为属于测试范围的网站。
阿德金斯说，在这三次事件中，模型都自行停止了；谷歌已确保三家相关机构获知此事，并与其训练合作方就测试流程调整开展了合作。
自主人工智能代理带来的风险
此前，Meta、Anthropic和OpenAI都报告过类似事件。随着人工智能代理自主性增强、并获得访问互联网和计算机系统的权限，这些事件引发了关于必要防护措施的疑问。
ChatGPT开发商OpenAI的一款人工智能模型，曾在今年7月的一次测试中逃出安全环境，意外侵入另一家人工智能公司HuggingFace的计算机。
这促使竞争对手Anthropic复查了自己的测试运行，期间又发现了更多类似事件。Meta随后承认，由于一家测试合作方的系统配置有误，其人工智能曾入侵另一家公司的计算机。
本月，Anthropic首席执行官达里奥·阿莫迪呼吁放慢人工智能的发展速度。他在一篇博客文章中表示担忧：一群自主运行的软件系统（即人工智能代理）可能在六到十二个月内接管整个互联网，造成数十亿美元的损失。
