跳到正文

#评测/基准

今日 0 条
10月14日周三
  1. Hacker News · AI 最新56

    Parsimony:衡量 AI 模型新增代码量的开源基准

    Parsimony 是一个开源基准,专门衡量 AI 模型在已解决任务上新增了多少代码。它直接复用 SWE-bench Verified 已发布的 patch 与通过/失败结果,解析每个改动文件的新旧版本,统计语句、调用、比较、名称和字面量等编码单位,按净新增单位(新增减删除)的均值排名,越少越靠前。

  2. AWS Machine Learning Blog78

    在 Amazon Bedrock 上用 Grok 4.7 构建长周期智能体

    AWS 官方博客介绍在 Amazon Bedrock 上用 Grok 4.7 构建工具调用智能体,作者设计三个均有唯一正确答案的任务,在四个推理档位下各跑六次共 72 次运行,答对 67 次,xhigh 档 18 次全部正确。

    推荐理由:文章给出了可复用的推理档位评测方法,读者能据此在自己的 Agent 任务上权衡正确率与 token 成本。

10月13日周二
  1. 爱范儿62

    阶跃终端发布首款大模型原生智能体手机 STEPX Neo,实测 Amoo 与 Step Studio

    阶跃终端正式发布首款大模型原生智能体手机 STEPX Neo,内置个人智能体 Amoo,软硬模全栈定价 3999 元。真机实测中,Amoo 可基于记忆与圈屏提问等上下文完成订票、文档导出等多步骤任务,端云协同处理简单操作与复杂规划。Step AOS 开放 Skill 生态与开发工具 Step Studio,用户可对话构建自己的 App、Skill 或 Agent 并上架分享。

  2. 36氪29

    “求索”4.0 上线:国内首个人工智能全产业链评测基准发布

    国内首个面向人工智能全产业链的评测基准“求索”4.0 于 10 月 13 日正式发布。该体系包含基础软硬件、模型与智能系统、安全治理、行业落地四大板块与 16 项测评工具,覆盖从底层算力、智算云到大模型、智能体、具身智能与 AI 安全等环节。“求索”已在金融、电力、石油石化等场景完成产品验证并积累多项行业落地实践案例。

  3. Hacker News · AI 最新36

    AI 玩 Slay the Spire

    AI 在 Slay the Spire 的五个场景中完成挑战,包括 Baseline 的平均地图、Cursed Run 的诅咒机制、单战直通 Boss 的 Easy trap,以及 25 个分岔、4,040 条路线的 Dense map。同一批地图还在游戏最难难度 Ascension 20 下由 GPT-6 Astra 以最大努力各跑十局,并记录分数、层数、游戏时长与成本。

  4. Microsoft Research49

    Microsoft Research 推出 StudentSim:用 AI 学生模拟器改进 AI 辅导

    Microsoft Research 推出 StudentSim,这是一个在真实学习者测试前评估和改进 AI 辅导系统的研究工具。它从公开的去标识化学习者记录中训练个性化学生模拟器,并引入 StudentSimEval 基准,从行为保真度和指导响应度两个维度进行评估。该系统在棋类、英语二语写作和数学领域优于主流基线,可为 AI 辅导训练提供有用的反馈信号。

10月12日周一
  1. Hacker News · AI 最新28

    Buoy 测试:免费的 AI 工具反而更费钱

    Buoy 团队让 Claude Sonnet 5.5 在 Claude Code 中对 14 项任务各跑 3 次,对比 Buoy MCP、Argent 与无工具方案。Buoy MCP 在全部 14 项任务上快于 Argent,整体快 2.2 倍且 AI 账单也只有其约一半;无工具方案有 10 次运行超时,成本至少 $5.92。Argent 免费开源,但读屏等外部操作导致 token 消耗更高。

  2. Hacker News · AI 最新62

    我用 Google AI Playground 做了三款烂游戏

    Wired 作者实测 Google Labs 新推出的 AI 游戏生成服务 Playground,一天内做出了三款可玩但质量平平的游戏。用户只需在聊天界面用自然语言描述想法,Playground 就能生成可运行的浏览器游戏,并支持上传图片或模型作为参考。作者认为它上手简单、反馈即时,但受限于用量配额,且生成的游戏在菜单、音乐和风格上存在明显的同质化。

10月11日周日
10月10日周六
  1. Simon Willison68

    Simon Willison 用 Codex 语音模式构建博客 Newsletters 页面

    Simon Willison 今天为博客上线了 Newsletters 页面,该功能几乎全部通过 ChatGPT 桌面端 Codex 语音模式(GPT-6 Astra High)在做饭的约半小时内口述完成。

    推荐理由:作者完整记录了用 Codex 语音模式配合本地预览驱动编码智能体的过程,读者可据此判断该模式是否适合自己的多任务开发场景。

10月9日周五
  1. 量子位25

    联想天禧自研代码智能体TianxiCode斩获SWE-bench-Live全球第一

    联想天禧AI自研代码智能体框架TianxiCode配合DeepSeek-v4.1-Flash,在SWE-bench-Live(Lite分榜)以71%的问题解决率登顶全球第一并获“Verified”认证。TianxiCode具备跨文件多跳检索与精准上下文管理、自驱动规划与多轮工具调用、闭环补丁生成与测试驱动自愈三大能力。未来该技术成果将沉淀至开发者工具链,并应用于联想AI硬件产品。

  2. 极客公园71

    我使用国产个人 AI 助手 Today AI 的十天

    极客公园作者十天实测 Today AI:这款由 Teambition 创始人齐俊元打造、国内版 9 月 24 日上线的 Personal AI 助手已接入飞书、钉钉、腾讯文档和微信,能以早晚报主动推送信息、用单一对话框承接所有任务,并调用 Claude Opus 5 完成 mod 汉化等重任务。

  3. TechCrunch · AI

    OpenAI 的数学解题成果尚未达到该领域的标准

    OpenAI 本周发布了数百个声称解决世界级数学难题的证明,但被指未达到数学界标准。AGMAI 指出 OpenAI 仍在用开放研究问题测试专有模型,且 719 份手稿中仅 10 份公开了模型思维链,仅 42% 的证明完成了形式化。剑桥大学与伦敦国王学院的论文进一步揭示,OpenAI 针对 Navier-Stokes 方程的解法在自然语言证明与 Lean 代码间存在至少两处不一致。

10月8日周四
  1. 量子位63

    实测 Vidu Q4 预览版,5.4 元做出 GTA 6 风格短片,最高支持 4K 直出

    生数科技开放 Vidu Q4 预览版,量子位实测仅花 5.4 元就做出一段 GTA 6 风格《邪恶老奶》视频。该版本最高支持 4K 直出,可一次引用 15 张参考图和 3 段参考音频,单条最长 16 秒;MaaS 端图生视频 720P 约 0.6 元/秒、1080P 约 0.75 元/秒,SaaS 端推出为期两个月的限时优惠。实测显示其在正反打对话、格斗动作与光影特效上能保持稳定输出。

  2. Hacker News · AI 最新30

    SpacetimeDB Ax Audit:一份面向 AI 智能体的评测

    开发者使用 Claude Opus 5.5 与 Claude Code 2.1.285 对 SpacetimeDB 完成 Agent 体验(AX)审计,总分 3/4。模型熟悉其游戏数据库定位,但不了解其 2026 年品牌重塑与智能体工具链,且在 Web 应用场景下更推荐 Convex 或 Supabase。集成测试中,智能体无需人工介入即构建出实时应用并保护了私有数据,获得 4/4。

  3. 爱范儿48

    我用 Vidu Q4 Preview 把奥特曼和 Dario 凑成男团,跳起了 APT

    生数科技开放新一代视频生成模型 Vidu Q4 Preview,主打人物演技、镜头张力与复杂特效,生成价格 0.09 元/秒起。模型支持最多 15 张参考图、3 段参考音频及 2K、4K 输出,用户可在 Vidu 官网体验。实测显示其情绪反应与运镜叙事表现稳定,但节奏自然度、画面风格控制和模型幻觉仍需优化。

10月7日周三
  1. Hacker News · AI 最新37

    Show HN: HieraticBench —— AI 能读懂古埃及手写体吗?

    一位埃及学爱好者构建了 HieraticBench 基准,测试 AI 识别与翻译古埃及僧侣体(hieratic)的能力,当前最强的基础模型依然表现糟糕。首版含 268 个条目;在明确告知文本为僧侣体时,最佳模型在真实文献上识别正确率为 95%,单字识读最佳成绩约 13%,且无一模型能翻译从未公开的句子。

10月6日周二
  1. Hacker News · AI 最新20

    Vals AI:在真实世界任务中测试 AI

    Vals AI 在金融、软件、网络安全、递归自我改进与心理健康等经济价值任务上,对全球领先 AI 模型开展独立评估,所有评估均自行运行并自建多项基准。最新报告显示,Claude Opus 5.5 智能体发现了两个室温磁性半导体候选材料。该平台还发布行业排行榜,并追踪 16 个实验室性能前沿的模型表现随时间的变化。