OpenAI 与英伟达宣布战略合作伙伴关系,2026 年启动 10 GW AI 数据中心首期部署
OpenAI 与英伟达宣布建立战略合作伙伴关系,将部署总规模 10 GW、由英伟达系统驱动的 AI 数据中心。首期项目计划于 2026 年启动。
推荐理由:原文给出的 10 GW 部署规模和 2026 年首期时间点,可作为判断 AI 算力基础设施供给节奏的量化参照。
把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。
OpenAI 与英伟达宣布建立战略合作伙伴关系,将部署总规模 10 GW、由英伟达系统驱动的 AI 数据中心。首期项目计划于 2026 年启动。
推荐理由:原文给出的 10 GW 部署规模和 2026 年首期时间点,可作为判断 AI 算力基础设施供给节奏的量化参照。
OpenAI 与 Oracle 达成协议,将在美国新增 4.5 GW 的 Stargate 数据中心容量。该投资旨在创造就业、加速美国再工业化并推进美国 AI 领导地位。Stargate 是 OpenAI 的 AI 基础设施平台。
推荐理由:原文给出了 4.5 GW 数据中心扩容计划,读者可据此评估美国 AI 基础设施建设的规模与影响。
OpenAI 推出 Stargate UAE,这是其 AI 基础设施平台 Stargate 的首次国际部署。
推荐理由:Stargate UAE 是 OpenAI 基础设施平台 Stargate 的首次国际部署,读者可据此了解其全球算力布局动向。
OpenAI 在 API 中推出 Structured Outputs 功能,模型输出现在可以可靠地遵循开发者提供的 JSON Schema。
推荐理由:官方让模型输出严格遵循开发者提供的 JSON Schema,读者可据此判断它如何简化现有的数据解析与接口对接工作。
DeepSeek API 上线硬盘缓存技术,调用价格再降一个数量级。更新详情见官方文档(2024/08/02):https://api-docs.deepseek.com/zh-cn/updates/#api-上线硬盘缓存技术
推荐理由:材料说明 DeepSeek API 采用硬盘缓存后价格再降一个数量级,读者可据此评估该机制对调用成本的影响。
OpenAI 宣布 GPT-4 API 正式可用,GPT-3.5 Turbo、DALL·E 和 Whisper API 也已进入正式可用阶段。公司同时发布 Completions API 旧模型的弃用计划,相关模型将在 2024 年初退役。
推荐理由:原文明确 GPT-4 API 进入正式可用阶段并给出旧模型退役时间表,读者可据此安排接口迁移。
OpenAI 发布 3 月 20 日 ChatGPT 宕机事件的调查更新,说明了调查发现、已采取的应对措施以及该 bug 的技术细节。
OpenAI 训练出比 GPT-3 更能遵循用户意图的 InstructGPT 模型,现已作为 API 的默认语言模型部署。这些模型采用人在回路方式训练,同时提高了真实性并降低了毒性,所用技术来自其对齐研究。
推荐理由:原文给出了 InstructGPT 相对 GPT-3 在意图遵循、真实性与毒性上的改进,读者可据此理解人在回路训练对模型对齐的作用。