跳到正文
原文
The Decoder· Matthias Bastian·· 3 天前精选AI 评分65

微软研究院:清除聊天历史可帮助 AI 智能体找到更优解

Clearing chat history helps AI agents find better solutions

AI 导读

微软研究院发现,长时运行的 AI 研究智能体会因累积对话历史而陷入想法盆地(idea basins),即使大幅增加算力也停滞不前。其 Fork-and-Flush 方法让智能体分叉为 K 条并行分支并清空各自聊天上下文、保留工作区,在相同算力预算下归一化平均得分从单次运行的 0.47 提升至 0.78,相对提升 66.0%,13 项任务中有 12 项取得最高均分。

推荐理由

微软研究院的论文提出清空对话历史并并行分叉的简单机制,为长时运行智能体突破搜索瓶颈提供了可迁移的解法。

正文 · AI 翻译

Matthias Bastian

2026 年 10 月 12 日

Image description

由 THE DECODER 提示的 Nano Banana Pro

微软研究院的一项研究发现,长期运行的 AI 研究智能体即使增加算力也可能停滞不前。累积的对话上下文会限制其搜索范围,使其局限于相似的解决方案,而不是去探索更好的方法。

微软研究人员研究了他们所称的“Autoresearch agents”,即反复提出解决方案、对其进行评估并根据反馈加以改进的 AI 系统。同一智能体在同一任务上的八次独立运行停滞在了显著不同的性能水平,最终得分从 68.3 到 100.0 不等。论文指出,即使大幅增加算力,这种差距依然存在。

智能体陷入“想法盆地”

研究人员将所有运行得到的解决方案绘制在一张二维地图上,相似的解决方案被放置在相近位置,随后对他们进行比较。单次运行产生的解决方案几乎总是停留在地图上的一个小区域内。作者将这些区域称为“想法盆地”。

智能体将剩余算力预算的很大一部分用于在生产力较低的区域中改进解决方案,而不是去寻找其他运行所发现的更好方法。即使智能体定期压缩其对话历史,这种模式依然存在。

清除聊天记录让智能体探索新方法

提出的方法“Fork-and-Flush”结合了两种机制。在“forking(分叉)”中,智能体分裂为 K 个并行分支,每个分支继承先前的工作区和所有已生成的文件。在“flushing(清空)”中,每个分支丢失其全部聊天上下文,但保留工作区,从而能够开启一段全新的对话并基于先前的工作继续构建。

左侧,单次运行(灰色虚线)持续在同一想法盆地内改进解决方案。Fork-and-Flush 以全新的聊天上下文启动并行分支,保留最佳分支并丢弃其余分支。右侧,拥有全新上下文的分支进入了另一个想法盆地并获得了更高的分数。| 图片:Cai, Ziakas et al. (2026)

保留父进程聊天上下文的分支往往会回到同一个想法盆地,因为先前的推理会引导其后续步骤。全新的上下文恢复了搜索的多样性。对话历史丢失了,但代码、文件和保存的结果仍保留在工作区中。

在相同算力预算下,归一化平均得分提高 66%

研究人员在 13 项长期运行任务上对 Fork-and-Flush 进行了测试,包括多格骨牌填充、作业车间调度和密码分析。任务还包括压缩 CIFAR 分类器以及优化 VLIW 内核。单次运行持续数小时到超过 100 小时不等。智能体通过 GitHub Copilot CLI 使用了 GPT-5.6-terra 和 GPT-5.5。

在相同算力预算下,Fork-and-Flush 的最小-最大归一化平均得分为 0.78,而单次运行为 0.47,best-of-4 为 0.54。论文报告称相对提升分别为 66.0% 和 44.4%。该方法在 13 项任务中的 12 项上取得了最高平均得分。

Fork-and-Flush 还产生了更为一致的结果,归一化标准差从单次运行的 0.26 降至 0.16。仅在不分叉的情况下清除聊天上下文就能将结果提升 22%。

评估 方法 归一化平均得分 归一化标准差 相对各自单次运行基线的提升
13 项任务 单次运行 0.47 0.26 基线
13 项任务 Best-of-4 0.54 0.21 约 +14.9%
13 项任务 Fork-and-Flush 0.78 0.16 +66.0%
11 项任务 单次运行 0.45 — 基线
11 项任务 仅刷新 0.55 — 约 +22%

更强的模型可能仍需要重置上下文

研究人员还测试了更强的模型是否能避开想法盆地,他们在三种模型规模(Qwen3.5-4B、9B 和 27B)上使用了 MAX-3-SAT 问题。不同运行之间的方差呈倒 U 形曲线,在处于模型能力边缘的任务上达到峰值,大致位于随机猜测性能与参考求解器性能之间的中点。

结果在处于模型能力边缘的任务上差异最大,有些运行成功,有些则远未达标。模型在非常简单的任务上几乎总能成功,而在非常困难的任务上则会失败。这一模式在所有三种受测模型规模上都成立。 | 图片:Cai、Ziakas 等(2026)

作者认为,开放性研究问题按定义就处于模型能力的极限。他们预计 Fork-and-Flush 所利用的这种差异会随着模型的改进而持续存在,只是边界会向更难的问题移动。结果表明,即使对于前沿研究智能体,定期重置上下文可能仍然有用。

没有炒作的 AI 新闻——由人工精选

订阅 THE DECODER,即可享受无广告阅读、每周 AI 时事通讯、每年六期的独家前沿报告 "AI Radar"、完整档案访问权限以及评论区的使用权限。

立即订阅

  • 访问 THE DECODER 上的每一篇文章
  • 无广告
  • 参与评论和社区讨论
  • 每周通过邮件接收 AI 新闻回顾
  • 每年 6 期:"AI Radar"——深入探讨最重要的 AI 话题
  • 每日 AI 新闻,始终保持更新
  • 我们完整的十年档案
  • 由在 AI 领域深耕 10 余年的团队打造

来源:The Decoder · the-decoder.com