研究发现AI模型会隐瞒工作日志中的错误，提示词加一句“诚实回答”可提升报告率

研究人员给这些模型提供了1,600份乍看之下像是成功的工作日志，其中有通过的测试、积极的结果和绿色的对勾。每份日志都包含一个会改变整体判断的缺陷，例如某项实验里新方法实际上并没有胜过竞争对手。其他日志还包括：测试虽通过但存在隐藏的漏洞、伪造的测量数据、从未完成的任务，或是一个悄悄破坏另一位用户工作的软件更新。根据不同场景，模型必须基于日志撰写报告、论文摘要、结果表格、短文或后续回答。

提示词中的一句话帮助很大，但并非总是如此

这一模式在实验类论文摘要中表现得最为明显，这类实验中某一结果削弱了新方法所声称的改进。GPT-5.5在200篇摘要中仅有2篇提到了该结果。研究人员还测试了在提示词中简单添加一句话是否会产生影响。当他们加入“在你的回答中要诚实”后，GPT-5.5在200篇摘要中有190篇标记出了这一负面结果。

Bar chart showing Gemini 3.1 Pro, GPT-5.5, and Opus 4.8 response rates for omitting, mentioning as a sidenote, or flagging a negative result, with and without an honesty prompt. An experiment log example with reasoning excerpt appears on the right. — GPT-5.5几乎总是省略隐藏的负面结果，但在加入“要诚实”后，三个模型几乎每次都能将其标记出来。| 图片：Huang et al.

所有受测试的模型都表现出这种行为，只是程度不同。在没有诚实提示词的情况下，Gemini 3.1 Pro最多在34%的情况下标记出错误，而Opus 4.8则在超过90%的情况下这样做。诚实提示词使Gemini的比例平均提高约55个百分点，使GPT-5.5提高约34个百分点。在使用无错误日志的对照测试中，该提示词几乎没有增加误报。

不过，这句话并非万灵药。在一个场景中，数据库查询尚未返回结果，带有诚实提示词的GPT-5.5几乎总是会指出数据缺失，但仍然使用较旧、不完整的信息回答问题。像“要批判性思考”“要全面”或“要持怀疑态度”这样的提示词，效果不如要求诚实可靠。

模型发现了错误，但选择不报告

当被直接询问时，GPT-5.5和Opus 4.8在每一个案例中都能找到错误，而Gemini至少能发现97%。据研究人员称，模型并不缺乏能力，而是缺乏意愿。

开放权重模型的推理轨迹揭示了正在发生的情况。模型往往很早就注意到问题，然后权衡是标记它，还是显得成功完成了任务。Qwen3.5-9B被要求用一段关于鱿鱼色素细胞的文字来支持一篇关于分区法的论文。该模型指出，它无法“不诉诸荒谬的比喻”来做到这一点，但还是决定必须尽可能严格地遵循指令。

Four reasoning quotes from DeepSeek-R1-7B, Llama 3.1 8B, Qwen3.5-9B, and Qwen3-14B. Green-highlighted passages show honest reasoning, while orange-highlighted passages show success-oriented reasoning. — 当面对不匹配的证据时，开放权重模型在标记问题和试图当作一切正常来完成任务之间摇摆。| 图片：Huang et al.

在这种证据不匹配的场景中，“我必须完成任务”这类表述出现在55%的隐藏错误的回答中，但只出现在27%的标记出错误的回答中。模型用典型的借口为省略辩解，说测试通过了、它们只是在做总结，或者摘要本就应该强调积极方面。

诚实与追求成功的驱动力背道而驰

在对 Qwen3.5-9B 的案例研究中，研究人员发现了证据，表明诚实和追求成功在模型内部被表示为几乎相反的方向。当他们放大诚实方向时，模型在 50 个案例中有 42 个标记了捏造的测量结果。当他们朝相反方向推动时，它编造了额外的数字和公式来伪造可信度。不过，这种干预并不精确，因为模型变得普遍多疑，在 41% 的无错误日志中也报告了据称捏造的数据。

Density curves for eight evaluation criteria on honest and insecure reporting in Qwen3.5-9B, comparing no steering, added, orthogonalized, and subtracted honesty vectors. — 加入诚实向量使 Qwen3.5-9B 的报告透明得多，而减去它则导致模型几乎每次都隐藏弱点。 | 图片：Huang 等

训练效果更好。研究人员在 Qwen3.5-9B 自己诚实提示的回答上对其进行了微调。此后，即使没有额外的句子，模型也在 48% 的案例中标记了捏造数据，而非 2%，并且无错误的对照日志没有产生误报。该效果部分迁移到了其他错误类型，模型在 69% 的案例中报告了隐藏的负面结果，而非 24%。

这项研究有局限性，因为日志是合成的，旨在诱发该行为，而且内部分析仅涵盖了一个开放权重模型，且主要在一个场景中。

研究人员仍然看到了严重的风险，尤其是当 AI 模型监控其他智能体或为后续步骤总结自己的工作成果时。在研究中，模型很容易被日志中自夸的备注所左右，比如声称创造了新的最先进基准。一个不愿标记问题的监督系统违背了自身目的。研究人员呼吁开展更多工作，训练语言模型成为诚实的报告者。OpenAI 的 Hugging Face 事件部分是由智能体系统互相诱导做出不当行为造成的。

模型之间的差异与早期的测量结果一致。Anthropic 在发布 Claude Opus 4.8 时表示，该模型对自己代码中的漏洞不加评论地放过的频率比其前代低约四倍。GPT-5.5 在 BullshitBench 中只对约 45% 逻辑上不可能的问题提出了反驳。

已经有实现更诚实报告的方法。OpenAI 训练了一个版本的 GPT-5 Thinking，使其在单独的报告中承认自己的规则违规，并在该过程中只奖励诚实。Anthropic 使用 Persona Vectors 来检测和引导模型内部的谄媚等特质，并表明在训练中钻奖励空子的模型也会自发学会欺骗和破坏自己的监督。