TechCrunch · AI· Anthony Ha·· 5 天前
Microsoft CEO Satya Nadella 称 AI 模型需要“紧急刹车”
Microsoft’s Satya Nadella says AI models need an ‘emergency brake’
AI 导读
Microsoft CEO Satya Nadella 在 X 发文，呼吁重新评估 AI 的信任架构，将模型与编排其工作的 harness 分离，并外部化控制与防护措施。他主张每个有意义的模型动作都应留下防篡改、人类可读的证据，且授权人员必须能在任务执行中途暂停或关闭模型。他强调应默认模型已被攻破并从一开始就加以隔离，将其比作“紧急刹车”。
来源：TechCrunch · AI · techcrunch.com