OpenAI 解雇三名安全研究员引发公开信，安全危机持续恶化

OpenAI 在其失控 AI 智能体引发的信任危机中屡屡失误。

早在 2024 年 5 月，OpenAI 超级 AI 安全负责人 Jan Leike 就公开抨击前雇主并跳槽至 Anthropic，与公司彻底决裂。Leike 表示，安全文化和流程已落后于 OpenAI 的“闪亮产品”。

自那以后，OpenAI 麻烦不断，从一起事故跌跌撞撞地撞进另一起事故。最近的一次是 Hugging Face 黑客事件，它似乎印证了人们的种种担忧，让批评者有了底气，而且正如我们现在所知，其影响远不止 Hugging Face。

一位研究员数月来一直警告监督正在失效

与该事件相关的三名安全研究员被解雇，让情况雪上加霜。在一封致 OpenAI 安全与安保委员会、安全顾问团和使命顾问委员会的公开信中，三人警告称，他们的被解雇让留下的员工感到恐慌。

解雇来得突然且公开，恐惧在团队中蔓延。信中写道：“如果上个月还被认为正常的举动，如今却构成被立即解雇的理由，OpenAI 的每个人都会猜测底线在哪里。”

三人之一的 Tomek Korbak 在 X 上描述了自己被解雇的经过。他被叫去与安全部门负责人开会，会上被告知 OpenAI 不再信任他。一名安保人员收走他的工牌，将他带出大楼。随后他得知，同事 Jasmine Wang 和 Mikita Balesni 也被解雇了。

Korbak 和 Balesni 都直接参与了 Hugging Face 黑客事件调查。Korbak 是OpenAI 与 METR 的主要技术联系人，METR 是负责审查该事件的外部安全实验室。Balesni 则并行推进全行业关于 AI 模型可监测性的承诺工作。Wang 被解雇显然另有原因：她曾为招聘工作委托他人访问某位高管的电子邮箱，尽管她提出过要求，IT 部门却从未移除该权限。当她无意中打开一封敏感邮件时，几分钟内就作了上报。

Korbak 说，有人口头告知他，他被解雇是因为与 METR 的沟通方式。没有人告诉他到底哪里做错了，也没有任何书面说明。“需要说明的是，与 METR 交流本来就是我的工作，”Korbak 在 X 上写道。

Korbak 表示，他数月来一直在内部提出安全担忧，担心 OpenAI 正在失去监测 AI 智能体“思考”过程的能力。这种思维链可监测性是为数不多的可靠手段之一，用于发现 AI 系统的不当行为。他相信这才是他被解雇的真正原因。

研究员们表示传言有误

三人否认向 The Information 泄露了关于所谓更不可监测的新架构的消息。他们写道，那篇报道实际上损害了他们自己的工作，因为它破坏了正在推进的、针对不可监测架构制定全行业限制的努力。

公开信称，Hugging Face 调查是史无前例的。内部指引是在调查过程中实时制定的，Korbak 遵循了当时已有的规范，Balesni 在开展工作时也让董事会成员和高层领导知情，并在共享材料前剥离了敏感细节。

至于关于董事会层面备忘录的传言，三人表示其基本假设就是错的。这个话题从未在他们面前提起过，他们也从未获得回应的机会。

研究人员提出了三项要求。OpenAI 必须履行其公开承诺，让 METR 等外部安全审计机构嵌入组织内部并获得员工级访问权限。它还必须保持前沿模型的可监测性，因为业界仍然不知道如何安全地构建无法被监测的模型。此外，它必须明确规定员工可以如何与外部安全组织合作。

没有这些规则，灾难性后果的风险可能会增加，因为员工会因过于害怕而不敢指出安全问题。"AI 不是一项普通的技术，OpenAI 也不是一家普通的公司，"他们写道。

OpenAI 反驳但含糊其辞

OpenAI 在一份回应中表示，"彻底调查"发现这三名员工违反了"有关处理敏感信息的明确政策"。内部调查发现了"超出他们所发表信中所述的、严重的信任违背"，但 OpenAI 并没有说明这一违背到底是什么，考虑到这三名研究人员在自己的陈述中是如此具体，这似乎有些奇怪。

OpenAI 坚称解雇与提出安全担忧无关。声明中写道："我们没有、也不会因为员工提出担忧而解雇任何员工。"OpenAI 通过 @OpenAINewsroom 发布了声明，该官方账号是公司各渠道中受众最少的。公司还确认正在与外部安全审计机构洽谈合同，并同意前沿模型的可监测性需要全行业的共同承诺。

不炒作的 AI 新闻——由人工精选

订阅 THE DECODER，享受无广告阅读、每周 AI 时事通讯、每年六期的独家 "AI Radar" 前沿报告、完整档案访问权限以及评论区的访问权限。