哈佛 CS2680 Modern AI Systems: Agents and System Optimizations 课程概览
哈佛大学开设 CS2680 Modern AI Systems: Agents and System Optimizations 课程,沿一个智能体系统从 agent loop 一路深入到 serving stack。
哈佛大学开设 CS2680 Modern AI Systems: Agents and System Optimizations 课程,沿一个智能体系统从 agent loop 一路深入到 serving stack。
Intel GPU D270 是一款面向智能体 AI 时代的推理优化数据中心 GPU,单卡提供最高 480 GB LPDDR5X 内存、350 W 风冷功耗和标准 PCIe 5.0 接口。
开发者推出可自托管的 GitHub merge gate Vibecheck,在创建 PR 时校验提交者是否理解自己的 AI 生成代码。它采用 BYOK 模式,填入 Anthropic API 密钥即可使用,适合企业环境或私有部署。作者在 PR 中提供了两个演示,分别展示 PR 因明显未理解代码被拦截,以及校验通过的情形。
Googlebook 推出 Linux Terminal Preview,提供面向 AI 与开发的 VM 底层环境。该环境以虚拟机形式运行 Linux,可用于 AI 相关开发工作。目前为预览版。
ConfigLens 是一款帮助用户排查 AI 工具为何忽略其配置设置的工具。它可定位配置未被生效的原因,适合需要调试 AI 工具行为的开发者使用。
Veda 项目致力于打造电影《Her》式的 AI OS。最新提交让 Interceptor 在 Full HD 下全屏运行,并在画面角落显示帧率与 GPU 信息,其相机与追踪逻辑跟随游戏本身而非逐帧变化。此外,驱动 VM 的 Linux 构建已可快速启动,声音处理不再占用处理器,渲染结束时会归还 GPU。
Ramet 是一款面向 AI 智能体的持久化、可 fork 工作区工具,能为每个会话或尝试从共享不可变基础中分配隔离的可写工作区,并按策略保存与恢复文件及本地 Git 状态。
该文提出通过 torrent 分发模型,让 Python 脚本直接加载这些模型,以实现 AI 的去中心化。原文目前仅有标题与链接,未提供具体的模型名称、实现细节或可用性说明。
AWS 官方博客介绍如何通过全球跨区域推理在 Amazon Bedrock 上调用 OpenAI 的 GPT-6 Sol、GPT-6 Luna 和 GPT-6 Astra,其中 Sol 和 Luna 覆盖新加坡、雅加达、马来西亚、泰国和台北五个源区域,Astra 仅支持亚洲太平洋(新加坡)。
作者同时运行 Hermes Agent 与 OpenClaw 两款开源自托管 AI 智能体后,选择将 Hermes Agent 作为日常主力。
Atomic Canyon 与核工业组织合作推出面向核反应堆运营的 AI 助手 NIVA,已完成试点并向美国全部 94 座核反应堆开放使用。另一家核能 AI 初创公司 Nuclearn 称其产品已服务逾 65 家美国合作伙伴,客户覆盖传统核电站与 NuScale Power 等先进小型核反应堆开发商。这些工具主打高效检索数据库、加速向联邦政府提交合规文件,被定位为核能领域的 ChatGPT。
用 Python 3.15 内置的 `profiling.sampling` 分析未修改的 web-edit 应用,发现混合换行符保留主导了繁忙的编辑负载:`preserve_endings` 出现在 15,296 个已记录 CPU 栈中的 64.8%,`SequenceMatcher.find_longest_match` 占叶子样本的 38.3%。
FusionAuth 1.69 强化身份控制平面,新增 issuer 识别、签名验证密钥选择、AI Agent Entity Type 与 Entity lifecycle webhooks 等安全控制。
微软计划从 2027 年起以多吉瓦级规模部署 Azure Maia AI 芯片,使其成为旗下产品的主力推理系统。Maia 200 已在美国、欧洲和澳大利亚运行 Microsoft Copilot,GitHub Copilot 和 Foundry 将于年底跟进。
推荐理由:原文给出 Maia 200 已承载 Copilot 的地区与 Maia 300 的能效、机架扩展目标,便于对比微软自研算力与主流 GPU 的投入产出。
AWS 推出面向多节点部署的 Ray LLM DLC,可在 Amazon EKS 上将单个大语言模型部署于两个 GPU 节点,并以一个 OpenAI 兼容端点提供服务。
AWS 深度学习容器(DLC)支持在 Amazon SageMaker AI 上通过 llama.cpp 部署量化决策模型,提供 OpenAI 兼容的文本生成与基于 SemIf 的结构化决策两条路径。
NVIDIA 在 OCP Global Summit 上宣布将 Vera Rubin 机架与计算托盘设计通过开放的 NVIDIA MGX 架构贡献给 OCP,为下一代 AI 工厂基础设施提供通用基础。
Simon Willison 推出 Python Web 应用 web-edit 0.1a0,提供用于查看和编辑文件夹中文件的 Web UI。它设计为通过 Tailscale 运行,方便用户在手机上使用 Codex Remote 时直接修改文件,而无需将凭据在 LLM 中往返传递。编辑功能使用 CodeMirror 6,因为 Monaco 的移动端体验仍然不佳。
腾讯程序员 robinji 讲清 Agent、Skill、MCP、CLI、Model 五个概念的调用关系,并给出老系统接入 AI 的三条路径,优先级依次为 API 封装为 MCP、CLI 包装、浏览器自动化或 RPA 兜底,建议从高频低风险且有 API 的系统先动手。
纽约创意工作室 Basura 为音乐人 Big Data 打造了讽刺项目「Adopt A Data Center」,其主体是一款名为 Bezzy 的毛绒数据中心玩具,拥抱时会播放真实 AI 数据中心的高频嗡鸣声,该音频取自弗吉尼亚州的一位居民。
ZizkaDB 推出面向生产环境 AI Agent 的审计工具,提供会话回放、因果血缘和漂移告警,帮助团队在用户察觉前定位并修复行为异常。支持 Python、TypeScript、LangChain、CrewAI、LiveKit、MCP 与 REST 接入,可选择 AGPL 开源自托管或托管云。
作者 simonmaddox 发布 Airlock:在 macOS 虚拟机里运行 Claude Code 或 Codex,agent 只能碰到项目副本,改动的文件以 diff 形式返回,由你勾选后才应用到真实项目,还能随时撤销。
推荐理由:原文把它与 Docker Sandboxes 做了明确对比,并列出工具做不到的事,读者可以据此判断是否要把它加进现有的 agent 工作流。
AI原生基础设施服务商无问芯穹完成23亿元C轮融资,累计融资43亿元,单轮与累计金额均创下国产AI原生基础设施赛道新纪录。公司已适配16种芯片、服务37000P算力,并将推理成本降至十分之一。其大模型服务平台日均Token使用量半年增长超40倍,95%以上推理任务来自Agent。
文章提出在几乎每个智能体技术栈中都缺失的一类模型——consequence model,它接收智能体即将执行的动作和上下文,返回该动作成功的概率以及可能的失败方式。
QCon 全球软件开发大会·2026(上海站)将于 10 月 22—24 日开幕,聚焦 AI 进入真实生产环境后软件工程的变化。阿里巴巴、蚂蚁集团、无问芯穹等企业实践者将围绕 Agent 工程、AI Coding、AI Infra 与具身智能等方向分享实践,探讨 Agent 从一次性任务执行走向持续运行的生产系统。
Hetzner 发布新款 GPU 服务器 GEX63,专为专业 AI 工作负载设计。
马斯克宣布 SpaceX 将构建全球首个太空 AI 数据中心集群后,中国太空算力赛道迅速升温,多家公司半年内完成多轮融资,最新估值达 40 亿元。太空算力旨在利用太空太阳能与真空散热突破地面数据中心电力瓶颈,Starcloud 已完成在轨大语言模型训练,谷歌也推出“太阳捕手”计划探索太空算力部署。随着商业航天投资创纪录增长,在轨算力被视为打开海洋监测、灾害预警等新场景的关键。
Plimsoll 是一款自托管沙箱,用于运行 AI 智能体编写的代码,项目已发布在 GitHub 并在 Hacker News 获得 15 点赞和 3 条评论。
JulianFlux 将向量数据库升级为连续电动力学推理引擎,用修正后的洛伦兹力公式替代余弦相似度来检索与路由数据。其 128D 流形投影、动态高斯带宽与 NLI 逻辑门拓扑电荷机制,可在规模测试中实现 0.0% 的模型幻觉率。核心数学已开源,企业版则采用 Rust/CUDA 后端支撑数十亿级向量。
Shpyrd 推出面向 AI 时代应用的云平台,Claude Code、Codex 或 Cursor 等编程智能体可用熟悉的命令直接部署应用、读取日志并排查故障。平台一键为应用加上登录,内置 Postgres、Valkey 与持久化存储,支持从 Git 或本地目录构建;应用空闲时自动休眠,实例最低 64 MiB 并按 CPU 用量计费。shpyrd 以 MPL-2.0 开源,可选择自托管。
《AI 风险用户指南》系列指出,AI 系统的风险敞口是随时间复利累积的负债,企业必须将治理内嵌于技术构建流程,而非事后补加。对直接执行基础设施操作的智能体而言,日志、人工监督检查点和回滚机制必须成为初始架构的一部分。能力扩散很快,但客户与监管机构的信任才是企业可持续部署 AI 的前提,组织不应等到事故发生才被迫开始治理。
作者在排查一台报告宕机的服务器时,与 ChatGPT 通过逐条命令截图交互,最终定位到 systemd 的 IPv6 接口反复增删 bug。但 ChatGPT 无法解释为何同集群其他服务器未受影响,直到同事发现该服务器已运行 498 天,才确认是 Linux 内核 ifa_cacheinfo 结构体 __u32 时间戳溢出所致,重启后问题解决。
作者用 OpenCode、OpenRouter 与 Tailscale 在 Ubuntu VPS 上自托管了一个 AI 智能体环境,实现跨机器、跨会话的共享内存与持续访问。共享内存以 Dropbox 同步的 AGENTS.md 布局实现,写入需人工确认,解决了约 80% 的跨机器上下文问题。Opus 5.5 用 90 分钟完成方案设计与实现。
Tensordyne 采用基于对数的数值格式,将乘法转化为加法以提升 AI 芯片的乘法运算效率,并配合量化感知训练与专有近似算法保证大模型精度,其软件栈可将 PyTorch 模型转换为该格式。
AI 工程成熟度模型是面向软件团队的五阶段框架,描述团队从临时的 AI 辅助编码走向带治理的多智能体编排的演进路径。
Go 生产级 Agent 框架 covonaut 发布 v1.1.5,重点改进工具检查点、Token 用量与缓存,共修改 121 个文件。该框架提供 LLM-工具循环、上下文压缩、重试与故障转移、生命周期钩子、分布式追踪,以及文件系统、Shell、浏览器、代码执行等内置工具,并支持 MCP、A2A、ACP、AG-UI 等协议。
AI Layer 推出 Claude Code 插件,为 Claude Code 增加 DuckDB 记忆与 CI 工作流支持。该插件可将对话与任务状态写入 DuckDB,并在 CI 环境中自动执行代码审查等流程。目前相关代码已公开,开发者可自行集成。
快手技术专家王泽锋将在 2026 年 QCon 上海站分享移动端稳定性 Agent「柯南 AI」的建设实践,展示 AI 如何从代码辅助走向研发后链路。该实践覆盖 Agent Workflow、Context Engineering 与 Agent Harness 等关键工程方法,实现异常现场聚合、根因分析、自动修复及知识沉淀的完整闭环。
GMKtec 推出 EVO-X3 迷你主机,搭载 AMD Ryzen AI Max+ 395 处理器与 128GB LPDDR5X-8000 内存,定位本地 AI 推理与开发。该设备配备 Radeon 8060S 核显,并提供 OCuLink 接口以连接外接 GPU,带宽超过 Thunderbolt 4。机身采用全金属立式设计,厚 41mm,重 2.3kg。
Galahad 是面向 AI 的长期记忆层,通过保存并复用模型 KV cache 避免重复计算,支持 vLLM、SGLang 和 llama.cpp。它可分片读取最大 50M token 的长文本,GPU 显存稳定在 34.1 GB,实测 99.6% 的 token 命中内存且速度提升 14 倍。用户可通过 pip install galahad-kv 免费使用(限单 GPU)。