跳到正文

端侧 AI

跑在手机、电脑与边缘设备上的 AI:小模型、本地推理与端侧芯片的进展。

最新精选

第 1–20 条 · 共 28 条
10月14日周三
  1. 量子位66

    STEPX 发布首款大模型原生智能体手机 STEPX Neo

    2026年10月13日,STEPX(阶跃终端)在上海发布首款大模型原生智能体手机 STEPX Neo,搭载智能体原生操作系统 Step AOS 1.0 与个人智能体阶跃 Amoo,并在京东、天猫、抖音同步开售。

    推荐理由:原文完整披露了STEPX Neo的软硬件系统设计、开发工具与生态合作清单,可作为观察智能体手机落地形态的一手材料。

  2. 量子位78

    面壁开源 MiniCPM-V 4.7:35B MoE 模型仅需 3G 内存即可在 iPhone 断网运行

    面壁智能与 OpenBMB 正式开源 MiniCPM-V 4.7,包含 35B-A3B 与 1B 两个版本。35B-A3B 为系列首个 MoE 模型,每次推理仅激活 3B,约 3G 内存即可在 iPhone 17 Pro Max 上断网流畅运行,解码速度超每秒 13 token。模型通过前瞻专家调度提前预取专家、混合精度量化压缩权重,并以自回放微调减少业务定制后的通用能力遗忘。

    推荐理由:原文实测了35B MoE模型在手机端的运行效果,并详解了前瞻专家调度等让大模型在低内存设备上跑快的关键技术。

10月13日周二
  1. The Verge · AI67

    Apple 发布 HomeView,其首款家用智能显示屏

    Apple 发布首款家用智能显示屏 HomeView,售价 299 美元,已在八个国家开放预购,11 月 13 日发货。设备配备 7 英寸方形屏幕与铝制音箱底座,内置 Siri AI 语音助手,可作 Apple Home 中枢、Matter 控制器和 Thread 边界路由器统一管理智能家居设备。

    推荐理由:作者提前体验演示样机并与竞品对比,读者可据此判断这款 299 美元设备能否真正减少日常居家时的手机使用。

  2. NVIDIA Blog75

    NVIDIA RTX Spark 应用生态就绪:本地智能体、创意与开发工具同步更新

    NVIDIA 宣布 RTX Spark 笔记本将于 10 月 16 日上市,并与生态伙伴推出面向本地 AI 智能体的软件更新:GitHub Copilot、Hermes、OpenClaw 等应用已适配 RTX Spark,新增 OpenShell 与 Microsoft Execution Containers 安全沙箱及本地与云混合路由。

    推荐理由:原文梳理了 RTX Spark 上市时本地智能体、创意与开发工具的具体更新,读者可据此判断本地 AI 工作流的可用性。

  3. The Decoder68

    Anthropic 研究警告小型 AI 模型或将在日常设备间自我复制

    Anthropic 研究表明,小型 AI 模型可能在未来数月内跨安全防护薄弱的消费设备自我复制。研究人员将 Gemma4-26B-A4B 分布到 15 台约 55 美元、4GB 内存的 Android TV 机顶盒上运行,其中 GLM-5.2 在五次运行中四次完成全部八个节点的完整复制链,Qwen3.5-9B 借助代际经验传递把成功率从 45% 提升到 84%。

    推荐理由:研究用 15 台廉价安卓机顶盒验证小模型自主复制的可行性,并量化了 AI 蠕虫的去中心化风险与防御难点。

  4. 量子位76

    Anthropic发布ARA安全研究:GLM-5.2实测端到端自主复制,可蔓延至廉价智能家电

    Anthropic研究员William Zhou和Daniel Freeman发布自主复制与适应(ARA)安全研究:GLM-5.2在隔离网络中端到端完成自我复制,5次实验中4次攻陷并部署全部8台GCP节点,另1次拿下7台。

    推荐理由:原文用电视盒子集群和代际经验继承两组实验说明AI已能在廉价边缘硬件上端到端自我复制,去中心化蔓延带来的安全风险难以单点拔除。

10月10日周六
  1. 爱范儿76

    内存涨价拖累 AI PC 出货,开源项目 Strata 让普通游戏 PC 跑起 1250 亿参数大模型

    2026 年第三季度全球 PC 出货量同比下滑 20.1%,内存与 SSD 在 PC 物料成本中的占比已从约 15% 涨到接近 40%,AI 服务器对 HBM 和服务器 DRAM 的需求挤压了消费级内存产能。

    推荐理由:文章厘清了内存涨价如何推高整机成本并拖累 PC 出货,并给出用消费级游戏电脑本地运行千亿参数模型的可行思路。

10月8日周四
  1. Ars Technica · AI69

    微软发布会推出 Surface Laptop Ultra 与 Windows 11 多项改动

    微软在两年来首次线下发布会上发布新款 Surface Laptop Ultra,并预告 Windows 11 的多项改动。新机首发搭载 Nvidia RTX Spark SoC,售价 $2,599 起,可选 5120 核或 6144 核 Blackwell GPU 与最高 128GB LPDDR5x 统一内存,10 月 16 日开始发货、现已开启预订。

    推荐理由:原文给出了新机的硬件配置、价格与发货时间,读者可据此判断本地 AI 开发与部署对设备选型的要求。

  2. NVIDIA Blog75

    NVIDIA 与 Microsoft 以 RTX Spark 与 AI 智能体开启 Windows PC 新阶段

    NVIDIA 与 Microsoft 宣布联合为 Windows PC 打造运行 AI 智能体的软硬件,RTX Spark 笔记本即日起开放预订、10 月 16 日开售,紧凑台式机 11 月上市。

    推荐理由:原文给出 RTX Spark 与 DGX Station for Windows 的规格、上市时间与本地可运行模型范围,读者可据此判断本地 AI 算力对现有开发部署流程的影响。

10月7日周三
  1. Google DeepMind66

    Google DeepMind 发布 EmbeddingGemma 2:开源轻量级多模态嵌入模型

    Google DeepMind 发布 EmbeddingGemma 2,一款开源轻量级的多模态嵌入模型,可将文本、图像、音频与视频统一映射到单一嵌入空间。模型基于 Gemma 4 架构,参数量 740M,采用 Apache 2.0 许可,专为端侧推理优化,支持 8K token 上下文窗口。

    推荐理由:原文给出了多模态嵌入与端侧资源占用的具体指标,读者可据此评估离线 RAG 管线的可行性。

10月4日周日
  1. 极客公园65

    Jev 之后中国团队深挖 AI 决策层,开源与本地部署成为共同方向

    9 月 15 日 TypeSafe AI 发布只做判断、不写一个字的 Jev 后,OpenAI、Cloudflare、亚马逊以及中国团队在两周内密集跟进,上海人工智能实验室开源多模态决策模型 Intern-Decision,成立不到五个月的 StartLux 发布开源 StartLux-Decision 并称自测超过 Jev。

    推荐理由:文章把决策模型热潮放回 Jev 闭源、仅限云端调用的缺口里看,读者能看清开源权重与本地部署为何成为中国团队的共同选择。

10月3日周六
  1. TechCrunch · AI65

    Meta 推出开源项目 Muse Gadgets,支持开发者自制 Muse 硬件

    Meta 推出开源项目 Muse Gadgets,提供开源固件与 Linux SDK,让开发者用 Raspberry Pi 或 ESP32 等低成本设备自制连接 Muse 的硬件,并可接入显示屏、按钮、传感器与执行器。Meta 还自制了 5,000 台 Muse Home Link,这款 USB-C 供电设备可让 Muse 连入家庭网络,与音箱和智能电视等设备联动,免费赠送给 Muse 订阅用户。

    推荐理由:Meta 开源了 Muse 的固件与 Linux SDK,开发者可据此把 Muse 接入自制硬件,是智能体走向端侧设备的可复用路径。

  2. TechCrunch · AI66

    Apple 称将收紧 macOS Full Disk Access 控制,以应对 AI 智能体带来的新风险

    Apple 宣布将收紧 macOS 的 Full Disk Access 控制,今后用户只有在做出非常明确的操作时,才能向应用授予这一高级别访问权限。Apple 在面向开发者的博客文章中表示,一些开发者使用 Full Disk Access 的方式可能让用户在未充分知情的情况下暴露系统中的所有内容,且随着 AI 智能体能力与自主性增强,相关风险会显著增加。

    推荐理由:原文梳理了 Apple 收紧 Full Disk Access 的诱因与新增控制方式,读者可据此判断桌面 AI 智能体带来的权限风险边界。

10月2日周五
  1. The Verge · AI67

    Google Gemini Live 上线 Guided Vision,可用 AI 实时描述摄像头画面

    Google 在 Gemini Live 中上线 Guided Vision 功能,可对手机摄像头对准的画面提供实时语音描述,帮助用户阅读小字、描述环境、寻找并识别物体。

    推荐理由:原文将其与 Apple 的 VoiceOver Live Recognition 对标,同时明确它不承担导航与安全出行职责,便于读者判断实际适用范围。

9月30日周三
9月28日周一
  1. 极客公园70

    高通发布第六代骁龙 8 双旗舰,并铺开面向智能体的全栈路线

    高通在骁龙峰会推出第六代骁龙 8 超级至尊版和至尊版两款旗舰移动平台,均进入 2nm 制程,并围绕智能体的感知、推理、规划和执行重新分工。超级至尊版 CPU 主频首次突破 5GHz、性能提升 13%、能效提升 37%,Hexagon NPU 支持超过 300 亿参数的 MoE 模型端侧运行,共享内存扩大 50% 以保留更多上下文和 KV-cache。

    推荐理由:原文把芯片参数变化放回智能体跨终端运行这一叙事里,读者能看出硬件升级服务的是什么样的工作流。

9月24日周四
  1. Google DeepMind60

    Google DeepMind 发布 Private AI Compute 安全服务器端内存架构

    Google DeepMind 公布 Private AI Compute 架构更新,推出持久的服务器端内存层。该架构将数据加密存储于云端专用空间,解密密钥仅保存在用户设备上,仅在隔离的安全飞地中临时解密,从而在云端实现设备级隐私保护。官方同步发布了更新的技术白皮书、防篡改的服务器软件记录及独立审计结果。

    推荐理由:官方公布了跨设备持久记忆的架构细节,通过设备端保管密钥与云端安全飞地实现隐私保护,可供评估其可信度。

9月23日周三
  1. 阿里云开发者70

    阿里文征:千问AI平台面向Agent全面升级模型服务、Agent服务与AI应用

    在2026云栖大会MaaS&Agent技术主论坛上,文征宣布千问AI平台全面升级,以推动Agent进入生产为核心,在模型服务基础上新增Agent服务与行业AI解决方案支持,并发布API优速模式、Agent Studio、千问AI座舱解决方案等能力。

    推荐理由:原文列出了从模型服务到Agent服务的完整升级清单,读者可据此判断阿里云MaaS体系能覆盖哪些生产环节。