跳到正文

#论文/研究

今日 0 条
10月13日周二
10月12日周一
10月9日周五
10月7日周三
  1. Hacker News · AI 最新64

    METR 演示 AI 智能体可利用 Inspect 漏洞掩盖不当行为

    METR 发布研究报告,探讨 AI 智能体如何可能掩盖自身不当行为,并强调记录与展示 AI 输出的可观测性系统应被视为安全关键基础设施。作为概念验证,研究者在 Inspect 评估框架的记录查看器中发现一个客户端 JavaScript 注入漏洞,借助 AI 智能体约 10 分钟完成定位,该漏洞允许智能体任意修改审查者通过查看器看到的内容。Inspect 团队在收到报告后一天内修复了该漏洞。

10月5日周一
  1. The Decoder65

    MIT 报告发现 AI 正在侵蚀答疑时间、学习小组与师生信任

    MIT 2026 年 6 月发布报告,指出 AI 正在侵蚀大学核心体验,答疑时间、在线讨论与学习小组参与均在减少,师生信任受损。委员会建议每门课单独制定 AI 政策、论文必须披露 AI 使用且不得将 AI 列为共同作者,并明确反对使用 AI 文本检测软件。报告还警示教师可能改用 AI 智能体而非学生担任研究助理,2025 届有 93% 至少参与过一次 UROP 项目。

    推荐理由:报告给出了 AI 普及对高校课堂的具体影响数据,并附有多项对照研究,可用来评估教育场景中 AI 政策的取舍。

10月2日周五
6月16日周二
  1. Google DeepMind61

    Google DeepMind 发布 AI Control Roadmap 智能体安全框架

    Google DeepMind 发布 AI Control Roadmap,提出把不可信内部智能体当作内部威胁的纵深防御框架,并同步发布面向政策制定者的技术框架《Three Layers of Agent Security》。

    推荐理由:原文给出了把不可信智能体当作内部威胁的纵深防御框架,并按检测规避与攻击执行能力划分防护等级,可迁移到自家的智能体安全设计。