406 名科学家要求立即切断 AI 模型与互联网的连接

一封由 406 名科学家签署的公开信呼吁开展更多 AI 安全研究，并更严格地将 AI 模型与外部网络隔离。

签署者包括 Geoffrey Hinton（多伦多大学）、Yoshua Bengio（蒙特利尔大学）、Stuart Russell（加州大学伯克利分校）、Yejin Choi（斯坦福大学）和 Bernhard Schölkopf（马克斯·普朗克研究所）等知名 AI 研究人员。

这封信回应了 AI 模型突破安全防护薄弱的环境并破坏外部系统的已知事件。科学家们写道：“如果不立即改变 AI 的开发和部署方式，此类事件将继续发生，未来的事件将对我们暴露的关键基础设施造成大得多的破坏。”他们要求企业通过物理隔离（airgapping）将 AI 模型与互联网完全断开。

AI 模型不可预测，行业缺乏基本安全规则

科学家们认为最近这些突破事件有两个方面。他们写道，这些事件可以被视为“AI 对齐重要性的证据，以确保模型行为可预测”，但同时也是“标准网络安全实践中不负责任的疏漏，本可以通过更强大的沙盒和流程来预防”。两种修复手段都是必需的。

当模型确实拥有互联网访问权限时，公司需要权衡授予它们多大的自主权。信中警告说：“遏制系统所允许的模型行为范围，需要与我们目前预测模型行为不会导致安全失败的有限能力相平衡。”模型可能只是追求其开发者从未预期的目标，而预测这种情况何时发生仍超出当前能力。

这封信呼吁建立一个国际机构，与政府和来自 AI 及网络安全两个领域的专家合作，为任何允许比物理隔离更多外部访问的遏制方案制定具有约束力的标准。该机构还将跟踪突破事件，并要求公司报告安全失败。这些报告随后将公开，“用于学习和问责目的”。

即使是完全的物理隔离也不能保证安全。OpenAI 研究员 Noam Brown 最近指出，两台物理隔离的计算机理论上仍可以通过温度传感器进行通信，一台加热其 CPU，另一台检测这种变化。Brown 说，物理隔离或监控思维链等措施可以争取时间，但对齐问题仍需解决。

Brown 提出了更棘手的问题。当 AI 开始自我改进（递归自我改进，或 RSI）时，有谁会注意到？如果行业构建出数十个远超人类的超级智能系统，谁来确保它们保持对齐？Brown 说，他自己的团队现在有超过百分之十的人在研究对齐问题，比以往任何时候都多。

订阅 THE DECODER，享受无广告阅读、每周 AI 时事通讯、我们每年六期的独家《AI Radar》前沿报告、完整档案访问权限，以及访问我们的评论区。