多模态 AI 的数据工程
原文仅含标题与 URL,无正文可供摘要。
原文仅含标题与 URL,无正文可供摘要。
何恺明团队在论文《VISTA: A Visual Harness for Reasoning in an Interactive World》中提出视觉原生Harness框架VISTA,把环境返回的每一帧原样保存到上下文之外,供模型按需回看、放大和对比,无需额外训练。
推荐理由:论文提出把原始画面存成可随时回看的视觉档案,让现有多模态模型无需重新训练即可在交互式视觉推理中复用视觉经验。
以色列魏茨曼研究所 Michal Irani 团队开发的 Brain-IT 模型,仅凭观看者的大脑活动即可重建其所见图像,在构图、色彩等细节上优于现有同类模型。
魏茨曼科学研究所 Michal Irani 教授团队开发了名为 Brain-IT 的 AI 模型。该模型能够通过分析功能性磁共振成像(fMRI)数据,重建出受试者观看图像时的视觉画面。
清华团队联合多所高校推出的 WorldArena 2.0 Challenge 揭榜,视启未来 WorldIncept、北京中关村学院 MW2、小米机器人 ViTacX 分获三条赛道第一。
研究人员开发出一款 AI 模型,能够根据人脑活动重建出人眼所见的图像。该技术通过分析脑部信号将其还原为对应的视觉画面,在脑机接口与神经科学领域展现出应用潜力。目前相关研究仍处于早期实验阶段。
蚂蚁集团与浙江大学提出面向流式视频情绪理解的 TRACE 框架,通过跟踪模型预测轨迹评估判断可靠性,并按需引入多模态上下文重判。团队同时构建流式评测数据集 StreamMER,在 StreamMER 上将仅在线音频判断的准确率从 59.87% 提升至 69.47%,同时避免 44.42% 的上下文重判调用。
NVIDIA 论文《MLLMs Fail to Refuse when Using Tools Agentically》发现,多模态语言模型在智能体工具调用场景下拒绝有害请求的能力显著下降,11 个受测模型在 MM-SafetyBench、VLSBench、HoliSafe 三个安全基准上拒绝失败率全部上升,最高相对增幅达 68.7%。
一位埃及学爱好者构建了 HieraticBench 基准,测试 AI 识别与翻译古埃及僧侣体(hieratic)的能力,当前最强的基础模型依然表现糟糕。首版含 268 个条目;在明确告知文本为僧侣体时,最佳模型在真实文献上识别正确率为 95%,单字识读最佳成绩约 13%,且无一模型能翻译从未公开的句子。
TaxCalcBench 基准以美国报税表 Form 1040 的形式呈现排行榜,评测前沿 AI 模型能否独立完成报税计算这一步。2025 税务年度版(v2)难度显著升级,输入改为 W-2、1099 等真实 PDF 文档,新增州报税并覆盖更复杂的财务情形,共测试 38 个模型、50 份报税表。评测指标包括严格正确率、±$5 宽松正确率、逐行正确率,以及每份报税的 API 成本与生成时间。
Li 等人提出的 LEGO-Anything 让编码智能体根据单张照片迭代编写可执行的 Blender 程序,输出可编辑、可查询的 3D 场景。配套基准 LEGO-Bench 用 104 个场景的 208 张图像与 443 个注册资产打分,表现最好的 GPT-6 Astra 室内场景得 53.4%、室外 39.6%。
月之暗面(Kimi)团队发布并开源 WorldVQA 基准,用于评测多模态大模型在原子视觉世界知识上的事实准确性。数据集含 3500 组图像问答对,覆盖 9 个类别并区分头部与长尾知识;实验显示前沿模型在长尾视觉知识上准确率常低于 50%,且普遍过度自信,其中 Kimi-K2.5 的 ECE 为 37.9%、Slope 为 0.550,表现最好。
Kimi 团队发布 PerceptionBench,一个评估多模态大语言模型原子视觉感知能力的基准,从 42 个基准的前沿模型失败案例中归纳出 10 项原子感知能力,并从 17,000+ 道内部题库中抽取 3,000 道经验证题目。
何恺明团队提出NAT-ARC,一套不依赖LLM的纯视觉ARC解题方案,用ImageNet MAE预训练encoder再迁移到抽象格子推理。最佳单模型参数量0.6B,在ARC-1上pass@2达63.4%,集成后达70.2%;作为参照,专用LLM系统The ARChitects用8B模型拿到71.6%。
推荐理由:论文显示ImageNet自然图像预训练可迁移到ARC抽象格子推理,用约四分之一参数量逼近专用LLM系统。
复旦大学可信具身智能研究院、Bytedance International Live Content AI 团队与上海创智学院联合发布 Live Assistant,面向真实直播场景提出基于内容理解的三方反馈范式,将直播建模为异构、长时、多方互动的持续状态决策。
斯坦福团队项目 HomeBody 让 GPT-6 Astra 控制宇树 G1 机器人,在从未见过的厨房里按语言指令归拢咖啡袋、丢掉纸盒,并从视野外的抽屉中找到药递给人。
推荐理由:原文拆解了 HomeBody 让大模型把机器人技能当工具调用的三步流程,可看出具身智能任务从桌面抓取扩展到整房间操作的实现思路。
香港科技大学(广州)联合腾讯 AI 平台部提出 VibeWorlding 多模态智能体框架,让智能体通过多轮对话、调用工具与观察渲染反馈,自主构建和编辑交互式 3D 世界,同时开源了 VWE-Bench 评测基准、VibeWorlding-Gym 训练框架与 VibeWorlder 模型合集。
Microsoft Research 推出拓扑推理基准 MindTopo,评估多模态模型在连通性、包围、顺序、分离与打结五类拓扑关系上的推理与规划能力。测试显示,当前多模态模型在静态识别任务上表现明显优于交互式规划任务,两者均远低于人类水平,且错误多发生在规划阶段而非感知阶段。该基准为机器人和交互环境中的 AI 系统提供了可控诊断工具。
Microsoft Research 提出 CARE-X:一个用于胸部 X 光多任务临床解读的统一 VLM,通过生成式与双推理模式同时输出自由文本推理和确定性预测。
Google DeepMind 发布 AI co-clinician 研究计划,探索在医生临床主导下让 AI 智能体参与患者诊疗。在 98 个初级保健查询的盲评中,该系统在 97 例中零关键错误,优于医生常用的两款 AI 系统,并在 RxQA 开放式用药问答上超越现有前沿模型。
Google DeepMind 联合 Kaggle 推出 FACTS Benchmark Suite,新增 Parametric、Search、Multimodal 三项基准并更新 Grounding Benchmark - v2,公开 3,513 道题目。
Google DeepMind 在 Nature 发表新论文,提出一种将视觉模型的表征与人类知识对齐的三步方法,显著提升模型与人类判断的一致性、鲁棒性和泛化能力。
本期 AI 论文周报推荐 5 篇前沿论文,覆盖通用智能体、地理信息系统与机器人操作等领域。Agent Lightning 实现 Agent 执行与训练完全解耦,几乎无需改代码即可对任意 AI Agent 进行强化学习训练。
OpenAI 探索在视频数据上大规模训练生成模型,其最大模型 Sora 能够生成一分钟的高保真视频。研究表明,扩展视频生成模型是构建物理世界通用模拟器的有希望路径。
推荐理由:原文提出视频生成模型可作为物理世界通用模拟器的路径,并展示 Sora 生成一分钟高保真视频的能力。
OpenAI 官方博客发表研究《Hierarchical text-conditional image generation with CLIP latents》,主题为基于 CLIP latents 的分层文本条件图像生成。
OpenAI 研究发现 CLIP 中存在多模态神经元,无论概念以字面、符号还是概念形式呈现,这些神经元都会做出相同反应。这可能解释了 CLIP 在分类概念的意外视觉呈现时的高准确率,也是理解 CLIP 及类似模型所学到的关联与偏见的重要一步。
OpenAI 介绍了四个围绕生成式模型展开的项目,生成式模型是机器学习中无监督学习技术的一个分支。文章还进一步说明了生成式模型是什么、为什么重要以及未来可能的发展方向。