在 Amazon Bedrock 上用 Grok 4.7 构建长周期智能体
AWS 官方博客介绍在 Amazon Bedrock 上用 Grok 4.7 构建工具调用智能体,作者设计三个均有唯一正确答案的任务,在四个推理档位下各跑六次共 72 次运行,答对 67 次,xhigh 档 18 次全部正确。
推荐理由:文章给出了可复用的推理档位评测方法,读者能据此在自己的 Agent 任务上权衡正确率与 token 成本。
AWS 官方博客介绍在 Amazon Bedrock 上用 Grok 4.7 构建工具调用智能体,作者设计三个均有唯一正确答案的任务,在四个推理档位下各跑六次共 72 次运行,答对 67 次,xhigh 档 18 次全部正确。
推荐理由:文章给出了可复用的推理档位评测方法,读者能据此在自己的 Agent 任务上权衡正确率与 token 成本。
Mistral 发布迄今最大模型 Mistral Large 4(ML4,昵称 le Chonk),总参数约 1 万亿、活跃参数 49B,为原生多模态模型,API 现已通过 Mistral Studio 开放,权重预计 10 月底发布。
推荐理由:原文并列了 ML4 与 Claude Opus 5.5、GPT-6 Astra 在智能指数、编码和安全测试上的差距,读者可据此判断其真实定位。
港股午间收盘,恒生指数涨0.78%,恒生科技指数涨0.87%。明星科网股普涨,阿里巴巴涨2.75%,百度集团涨3.6%,小米集团涨近2%。智谱涨逾8%,GLM-5.3上架AmazonBedrock。
智谱(Z.ai)的 753B 参数混合专家模型 GLM 5.3 现已上线 Amazon Bedrock,面向编码与长程智能体任务优化,官方称发布时在 CyberGym 基准上取得 84.5 分、内部编码基准较 GLM 5.2 提升 50%。
推荐理由:原文给出了从 API 调用到显式提示词缓存再到 Strix 安全测试的完整上手路径,可直接复用到自己的编码与智能体工作流。
通义千问发布 Qwen3Guard 护栏模型,基于 Qwen3 架构针对安全分类任务微调,提供 Qwen3Guard-Gen 与 Qwen3Guard-Stream 两个版本,均有 0.6B、4B、8B 三种参数规模。
推荐理由:官方给出逐词流式检测的实现路径与三级风险标签设计,读者可据此评估将其接入现有安全审核流程的可行性。
openJiuwen 团队开源智能路由框架 model-router,通过精准画像、动态决策与自演进三层架构实现按任务复杂度自动选择模型。
推荐理由:文章拆解了模型路由的画像、决策与自演进三层架构,并给出实测成本对比,适合作为多模型调度系统的设计参考。
DeepSeek 于 9 月 30 日正式开源面向华为昇腾算力平台的基础设施组件,涵盖 TileLang 高级语言编译工具、计算库与分布式通信库,所有组件与此前面向英伟达平台的开源组件一一对应。其中 TileLang 的昇腾版本是本次开源中最重的一块,DeepSeek 的叙事是建立新一代自主可控的 GPU 软件生态。
GPT-6 改进了提示词缓存,提供更高的缓存命中率、新的诊断工具、显式断点以及可降低延迟和成本的控制功能。
腾讯程序员 mason 实测了 TypeSafe AI 在 9 月推出的决策模型 Jev,它本质上是分类模型,把当前情况和问题发给它后返回程序可直接使用的结果,没有任何幻觉。
智谱正式推出 GLM-5.3-FlashX,最高 200 tokens/s,API 现已上线,Model Key 为 GLM-5.3-FlashX。GLM-5.3-Flash 此前以 Ox Alpha 之名获海内外开发者认可、调用量持续攀升,本次在 10 万张国产芯片推理算力基础上加大 Infra 侧投入与推理优化,形成智能、价格、速度的全面竞争力。
DeepSeek-V4.1-Flash正式上线千问AI平台,API服务与Token Plan同步开放,开发者可在Qoder、千问APP、Codex等工具中调用。模型原生支持文本与图像理解,最长支持100万Token上下文,可用于代码开发、长文档处理、视觉理解和智能体任务。借助新一代缓存压缩技术,其HBM需求降至上一代模型的1/4、SSD存储需求降至1/8,部署基于vLLM开源社区适配完成。
推荐理由:原文列出了模型的多模态能力、100万Token上下文与存储需求降幅,读者可据此评估长上下文场景的部署成本。
腾讯混元团队用 Sherry 稀疏三值量化算法和 MIX-STQ1_0 逐层混合精度策略,把 Hy4 preview 权重从约 1.5 TB 压到约 214 GB,大幅降低运行硬件门槛。
Microsoft Research 联合华盛顿大学与 Providence 发布 GigaPath-Flash 与 GigaTIME-Flash,以 Apache 2.0 开源权重,在保持性能的同时大幅降低病理基础模型的算力开销。
智谱上线并开源 GLM-5.3-Flash(320B-A18B),这是 GLM-5 系列首个原生多模态模型,AA 综合智能指数取得 57 分,与 Claude Opus 4.8 持平,定价为 GLM-5.3 的 1/10、限时折扣内 1/20、Opus 4.8 的 1/40。
推荐理由:原文给出与 Claude Opus 4.8 的能力与价格对照,以及混合注意力架构的降本路径,可据此评估前沿模型的成本走向。
腾讯混元把 Hy-MT2-1.8B 翻译模型用 2-bit 与 1.25-bit 两套方案压缩至 574MB 和 440MB,翻译质量几乎无损,并联合英特尔完成 x86 算子适配、联合哔哩哔哩接入直播弹幕实时翻译。
Microsoft Research 发布深度学习交换关联泛函 Skala 1.1,训练数据量较初版扩大 2.5 倍,在 GMTKN55 基准的 55 个类别中拿下 32 个第一,加权平均误差 2.8 kcal/mol,精度超过主流全局杂化泛函而成本接近 meta-GGA。
智谱面向部分企业客户推出 GLM-5.1 高速版 API “GLM-5.1-highspeed”,模型输出速度达 400 tokens/s,并在完整保留 GLM-5.1 旗舰能力的同时实现低延迟。
OpenAI 宣布 GPT-4 API 正式可用,GPT-3.5 Turbo、DALL·E 和 Whisper API 也已进入正式可用阶段。公司同时发布 Completions API 旧模型的弃用计划,相关模型将在 2024 年初退役。
推荐理由:原文明确 GPT-4 API 进入正式可用阶段并给出旧模型退役时间表,读者可据此安排接口迁移。
OpenAI 训练出比 GPT-3 更能遵循用户意图的 InstructGPT 模型,现已作为 API 的默认语言模型部署。这些模型采用人在回路方式训练,同时提高了真实性并降低了毒性,所用技术来自其对齐研究。
推荐理由:原文给出了 InstructGPT 相对 GPT-3 在意图遵循、真实性与毒性上的改进,读者可据此理解人在回路训练对模型对齐的作用。
OpenAI 发布了针对块稀疏权重网络的高度优化 GPU kernel,根据所选稀疏度,速度可比 cuBLAS 或 cuSPARSE 快多个数量级。这些 kernel 已用于文本情感分析以及文本和图像生成建模,并取得 SOTA 结果。