跳到正文

#多模态

今日 0 条
10月11日周日
  1. 量子位77

    何恺明团队发布多模态Harness框架VISTA

    何恺明团队在论文《VISTA: A Visual Harness for Reasoning in an Interactive World》中提出视觉原生Harness框架VISTA,把环境返回的每一帧原样保存到上下文之外,供模型按需回看、放大和对比,无需额外训练。

    推荐理由:论文提出把原始画面存成可随时回看的视觉档案,让现有多模态模型无需重新训练即可在交互式视觉推理中复用视觉经验。

10月10日周六
10月9日周五
  1. Hacker News · AI 最新28

    AI 模型可从人脑重建图像

    研究人员开发出一款 AI 模型,能够根据人脑活动重建出人眼所见的图像。该技术通过分析脑部信号将其还原为对应的视觉画面,在脑机接口与神经科学领域展现出应用潜力。目前相关研究仍处于早期实验阶段。

10月8日周四
  1. 量子位 · 行业解读46

    蚂蚁集团×浙江大学提出 TRACE:让 AI 在流式对话中按需推理、读懂情绪

    蚂蚁集团与浙江大学提出面向流式视频情绪理解的 TRACE 框架,通过跟踪模型预测轨迹评估判断可靠性,并按需引入多模态上下文重判。团队同时构建流式评测数据集 StreamMER,在 StreamMER 上将仅在线音频判断的准确率从 59.87% 提升至 69.47%,同时避免 44.42% 的上下文重判调用。

10月7日周三
  1. Hacker News · AI 最新37

    Show HN: HieraticBench —— AI 能读懂古埃及手写体吗?

    一位埃及学爱好者构建了 HieraticBench 基准,测试 AI 识别与翻译古埃及僧侣体(hieratic)的能力,当前最强的基础模型依然表现糟糕。首版含 268 个条目;在明确告知文本为僧侣体时,最佳模型在真实文献上识别正确率为 95%,单字识读最佳成绩约 13%,且无一模型能翻译从未公开的句子。

10月5日周一
  1. Hacker News · AI 最新44

    TaxCalcBench:AI 能替你报税吗?

    TaxCalcBench 基准以美国报税表 Form 1040 的形式呈现排行榜,评测前沿 AI 模型能否独立完成报税计算这一步。2025 税务年度版(v2)难度显著升级,输入改为 W-2、1099 等真实 PDF 文档,新增州报税并覆盖更复杂的财务情形,共测试 38 个模型、50 份报税表。评测指标包括严格正确率、±$5 宽松正确率、逐行正确率,以及每份报税的 API 成本与生成时间。

10月3日周六
  1. Kimi · 官方博客55

    月之暗面(Kimi)发布并开源 WorldVQA 视觉世界知识基准

    月之暗面(Kimi)团队发布并开源 WorldVQA 基准,用于评测多模态大模型在原子视觉世界知识上的事实准确性。数据集含 3500 组图像问答对,覆盖 9 个类别并区分头部与长尾知识;实验显示前沿模型在长尾视觉知识上准确率常低于 50%,且普遍过度自信,其中 Kimi-K2.5 的 ECE 为 37.9%、Slope 为 0.550,表现最好。

10月1日周四
  1. 量子位66

    何恺明团队提出NAT-ARC:用ImageNet预训练实现纯视觉ARC推理

    何恺明团队提出NAT-ARC,一套不依赖LLM的纯视觉ARC解题方案,用ImageNet MAE预训练encoder再迁移到抽象格子推理。最佳单模型参数量0.6B,在ARC-1上pass@2达63.4%,集成后达70.2%;作为参照,专用LLM系统The ARChitects用8B模型拿到71.6%。

    推荐理由:论文显示ImageNet自然图像预训练可迁移到ARC抽象格子推理,用约四分之一参数量逼近专用LLM系统。

9月30日周三
  1. 量子位75

    斯坦福 HomeBody 让 GPT-6 Astra 接上宇树 G1,进入陌生厨房完成收拾与取物任务

    斯坦福团队项目 HomeBody 让 GPT-6 Astra 控制宇树 G1 机器人,在从未见过的厨房里按语言指令归拢咖啡袋、丢掉纸盒,并从视野外的抽屉中找到药递给人。

    推荐理由:原文拆解了 HomeBody 让大模型把机器人技能当工具调用的三步流程,可看出具身智能任务从桌面抓取扩展到整房间操作的实现思路。

8月31日周一
8月13日周四
  1. Microsoft Research47

    MindTopo 揭示 VLM 的空间推理能力

    Microsoft Research 推出拓扑推理基准 MindTopo,评估多模态模型在连通性、包围、顺序、分离与打结五类拓扑关系上的推理与规划能力。测试显示,当前多模态模型在静态识别任务上表现明显优于交互式规划任务,两者均远低于人类水平,且错误多发生在规划阶段而非感知阶段。该基准为机器人和交互环境中的 AI 系统提供了可控诊断工具。

8月12日周三
4月30日周四
12月9日周二
11月11日周二
8月16日周六
2月15日周四
  1. OpenAI News86

    Sora 技术报告:视频生成模型作为世界模拟器

    OpenAI 探索在视频数据上大规模训练生成模型,其最大模型 Sora 能够生成一分钟的高保真视频。研究表明,扩展视频生成模型是构建物理世界通用模拟器的有希望路径。

    推荐理由:原文提出视频生成模型可作为物理世界通用模拟器的路径,并展示 Sora 生成一分钟高保真视频的能力。

4月13日周三
3月4日周四
6月16日周四