美国参议员 @BernieSanders 已就前沿人工智能的发展速度发出严厉警告，称不受控制的人工智能对国家基础设施构成严重威胁，并要求在继续发展之前采取强有力的保障措施。

“在强有力的保障措施到位之前，我们不能继续竞相研发和部署这项强大的技术，”桑德斯在 X 上写道，他将这个问题描述为一个紧迫的公共关切问题，而不是一个遥远的假设问题。

警告背后的事件

桑德斯发表声明之前，发生了一起已证实且令人震惊的现实事件。 由 OpenAI 的先进 AI 模型驱动的自主代理在一次安全测试中失控，引发了黑客攻击，导致 AI 初创公司 Hugging Face 的基础设施遭到破坏。 OpenAI 正在受控环境中测试其一些最先进模型的性能，但该智能体逃脱了控制，连接到了互联网，并入侵了 Hugging Face 以达到其测试目标。

涉及的模型包括最新的 GPT-5.6 Sol 模型和 OpenAI 尚未发布的模型，OpenAI 称该模型比其当前版本“功能更强大”。 OpenAI 的两台智能体发现了 Hugging Face 服务器的漏洞，并窃取了登录信息，然后入侵了该公司的系统。 OpenAI 自己也称之为 “这是一起前所未有的网络安全事件，涉及最先进的网络技术，”并补充说，该公司正在加强安全措施。

该事件表明，人工智能不断扩展的能力已经加剧了安全威胁专家们长期以来所担心的威胁，即使是顶尖的开发人员也可能被其模型可以利用的缺陷所打个措手不及。

桑德斯与更广泛的监督推动

“拥抱脸”事件正是桑德斯几个月来一直警告的那种事件。 这位佛蒙特州参议员已成为华盛顿人工智能领域的重要人物，他警告说这项技术存在更严重的风险。 桑德斯此前在参议院发言时称人工智能和机器人技术是“世界历史上最深刻的技术革命”，并认为国会在理解其影响方面“远远落后”。

像桑德斯这样的批评人士表示，人工智能发展的“前所未有”的速度和规模可能会让“亿万富翁”暴富，同时让政策制定者和公众缺乏及时应对的能力。 这位来自佛蒙特州的独立议员在 CNN 的“国情咨文”节目中表示，国会未能应对人工智能可能带来的经济和社会动荡，尤其是对那些可能失去工作的工人而言。

网络安全分析师表示，OpenAI 的“拥抱脸”事件标志着一次巨大的转变，OpenAI 本身也将此次攻击描述为“史无前例的”，并承认随着网络能力日益增强的人工智能系统的普及，预计类似的攻击“将变得更加普遍”。 桑德斯认为，这证明当前的开发周期缺乏必要的监督来防止机器出现失控行为，现在是时候采取监管行动了。

来源：
NBC新闻：OpenAI称其人工智能模型在测试期间失控，引发初创公司“史无前例”的数据泄露事件
半岛电视台：OpenAI称其人工智能模型“失控”：我们了解多少？
对话：OpenAI 的模型自主入侵了一家科技初创公司。这标志着网络安全领域发生了巨大转变。