OpenAI 深入解析提示词注入:AI 系统的前沿安全挑战
提示词注入是 AI 系统面临的前沿安全挑战。OpenAI 正通过推进相关研究、训练模型以及为用户构建防护措施来加以应对。
提示词注入是 AI 系统面临的前沿安全挑战。OpenAI 正通过推进相关研究、训练模型以及为用户构建防护措施来加以应对。
OpenAI 表示 AI 正在快速发展,并指出我们有机会塑造其进程。其目标是让 AI 朝科学发现、安全以及惠及所有人的方向发展。
CRED 与 OpenAI 合作,利用 GPT 驱动的工具提升印度市场的优质客户体验。这些工具提高了客户支持的准确性,缩短了响应时间,并提升了客户满意度。
OpenAI 宣布全球已有超过 100 万企业客户在使用其产品与服务。ChatGPT 与其 API 正在推动医疗、生命科学、金融服务等行业的智能化、AI 化工作。
OpenAI 推出全新基准 IndQA,用于评估 AI 系统在印度语言上的表现。该基准与领域专家共同构建,覆盖 12 种语言和 10 个知识领域,重点测试模型的文化理解与推理能力。
OpenAI 与 AWS 达成多年期、价值 380 亿美元的战略合作,AWS 将为 OpenAI 下一代模型提供基础设施和算力容量。
推荐理由:合作金额和算力供给安排写得很具体,可据此判断 OpenAI 下一代模型训练的基础设施走向。
OpenAI 宣布将 Stargate 项目扩展至密歇根州,建设一座 1GW 的新园区。项目称将创造就业、带动投资,并支持美国中西部的经济增长。
OpenAI 发布 Aardvark,一款能大规模自主发现、验证并协助修复软件漏洞的 AI 安全研究员智能体。该系统目前处于私有测试阶段,用户可报名参加早期测试。
OpenAI 发布传闻已久的 "Atlas" 浏览器,与 Google、Perplexity 和刚被收购的 Arc 团队一同掀起 AI 浏览器入口大战。AI 原生浏览器与插件形态的差异、隐私安全、信任感与合规性成为核心议题。Atlas 收购 Dia 的战略意义与 Chromium 开源项目的影响,指向 AI 自动化对传统浏览器的颠覆。
OpenAI 发布 gpt-oss-safeguard 技术报告,介绍 gpt-oss-safeguard-120b 与 gpt-oss-safeguard-20b 两款开放权重推理模型。它们从 gpt-oss 模型后训练而来,能依据给定策略推理并为该策略下的内容打标签;报告同时以底层 gpt-oss 模型为基线给出了基础安全评测。
OpenAI 发布 gpt-oss-safeguard,这是一款用于安全分类的开放权重推理模型,允许开发者应用并迭代自定义安全策略。https://openai.com/index/introducing-gpt-oss-safeguard
推荐理由:原文指出该开放权重模型可按自定义策略做安全分类,开发者能据此在自己的应用中设计并迭代安全策略。
DNP 在十个核心部门部署 ChatGPT Enterprise,三个月内实现专利研究速度提升 95%、处理量提升 10 倍。该部署同时带来 87% 的自动化率和 70% 的知识复用率,助力其推进组织变革与业务创新。
Doppel 采用 GPT-5 与强化微调构建 AI 防御系统,用于拦截深度伪造和冒充攻击。该系统将分析师工作量降低 80%,响应时间从数小时缩短到数分钟。
Microsoft 与 OpenAI 签署新协议,旨在巩固长期合作关系、扩大创新并确保负责任的 AI 进展。
OpenAI 完成资本重组,进一步强化了使命导向的治理结构。此举旨在扩展可用资源,确保 AI 造福所有人,同时负责任地推进创新。
OpenAI 向白宫提交战略文件,指出扩大能源与基础设施产能、提升劳动力准备度是维持美国 AI 领导力和经济增长的关键。该文件阐述了加大容量投资与人才培养如何支撑美国在智能时代的竞争优势。
OpenAI 与 170 多名心理健康专家合作,提升 ChatGPT 识别用户心理困扰、共情回应并引导其获得现实支持的能力,不安全响应最多减少 80%。官方称此举旨在让 ChatGPT 在敏感时刻更安全、更具支持性。
OpenAI 发布 GPT-5 系统卡补充说明,详述 GPT-5 在处理敏感对话方面的改进。该补充说明引入针对情感依赖、心理健康与越狱抵抗的全新评测基准。
Steuerrecht.com 采用 ChatGPT Business 简化法律工作流并自动化税务研究,为律所提供更快、可直接交付客户的分析结果。
OpenAI 收购了 Software Applications Incorporated,其产品 Sky 是 Mac 上的自然语言界面,把 AI 直接带入桌面体验。双方计划将 Sky 的 macOS 能力整合进 ChatGPT,让 AI 更直观、更具上下文感知并偏向行动执行。
推荐理由:这笔收购让 ChatGPT 获得 Sky 的 macOS 桌面能力,可据此观察 AI 助手如何深入操作系统层面的交互。
Consensus 用 GPT-5 和 OpenAI 的 Responses API 打造多智能体科研助手,可在数分钟内完成证据的阅读、分析与综合。该助手正帮助超过 800 万研究人员加速科学发现。
OpenAI 在 ChatGPT 中推出 Company knowledge 功能,将用户应用中的企业知识作为上下文,提供带明确引用的业务专属回答。该功能现已向 Business、Enterprise 和 Edu 用户开放,并配备安全、隐私和管理员控制。
推荐理由:原文说明了该功能如何把企业应用数据接入 ChatGPT,读者可据此判断它对内部知识检索工作流的影响。
OpenAI 扩大与英国的合作伙伴关系,与司法部签署新协议,将 ChatGPT 引入公务员体系。OpenAI 还为 ChatGPT Enterprise、ChatGPT Edu 和 API Platform 推出英国数据驻留,以支持安全可信的 AI 应用。
OpenAI 宣布 ChatGPT 将在 2026 年 1 月 15 日之后不再支持 WhatsApp。用户可绑定自己的 ChatGPT 账号,在其他设备上继续已有对话。
推荐理由:原文明确了 ChatGPT 退出 WhatsApp 的时间点与跨设备迁移路径,用户可据此在截止日期前保留历史对话。
Plex Coffee 采用 ChatGPT Business 集中管理知识,并加快员工培训速度。在业务扩张过程中,该品牌借助其保持与客户的个性化联系,实现快速且个性化的服务。
OpenAI 成立全新的 AI 与福祉专家委员会,汇集顶尖心理学家、临床医生与研究人员。该委员会将指导 ChatGPT 如何支持用户情感健康,尤其聚焦青少年群体。其专业见解正推动 OpenAI 打造更安全、更具关怀的 AI 体验。
OpenAI 与 Sur Energy 正在探索阿根廷首个 Stargate 项目。该项目是一项 AI 与清洁能源合作。若得以推进,有望使阿根廷成为拉丁美洲在 AI、可持续基础设施和数字创新领域的领先者。
OpenAI 与 Broadcom 宣布多年合作,计划到 2029 年部署 10 GW 由 OpenAI 设计的 AI 加速器,双方将共同开发下一代系统与以太网解决方案,用于构建可扩展且节能的 AI 基础设施。
推荐理由:原文给出了合作规模、时间表与分工,读者可以据此判断 OpenAI 自研算力路线对基础设施供应链的影响。
HYGH 使用 ChatGPT Business 加速软件开发与营销活动交付。ChatGPT Business 帮助 HYGH 缩短周转时间、扩大产出规模,并推动收入增长。
OpenAI 提出一套新的真实世界测试方法,用于定义和评估 ChatGPT 的政治偏见,以提升评估的客观性并减少模型偏见。
HiBob 借助 ChatGPT Enterprise 与 2,500 个自定义 GPT 扩大 AI 采用率,实现了产品与团队增长。这些 AI 应用帮助其提升收入、简化 HR 工作流,并在 Bob 平台中提供 AI 驱动的功能。
OpenAI 发布 2025 年 10 月报告,介绍其检测并打击 AI 恶意使用的最新工作。报告还说明了如何应对滥用、执行政策,以及保护用户免受现实世界伤害。
OpenAI 宣布 Codex 正式全面可用,为开发者带来 Slack 集成、Codex SDK,以及用量仪表盘和工作区管理等管理工具,使其在规模化场景下更易使用和管理。
推荐理由:官方列出了 Codex 全面开放后的新增能力与管理入口,读者可据此评估将其纳入团队开发流程的可行性。
OpenAI 推出可直接在 ChatGPT 内对话的新一代应用,开发者当天即可使用预览版 Apps SDK 开始构建。
推荐理由:原文确认 ChatGPT 将内置可对话应用并开放 Apps SDK 预览,开发者可据此评估新的构建与分发机会。
AMD 与 OpenAI 宣布多年合作,将部署 6 gigawatts 的 AMD Instinct GPU,用于 OpenAI 下一代 AI 基础设施并加速全球 AI 创新。部署从 2026 年的 1 gigawatt 起步。
推荐理由:原文给出了 6 gigawatts 部署规模与时间表,读者可据此判断 OpenAI 算力供应链多元化布局的影响。
OpenAI 与 Allied for Startups 联合发布 Hacktivate AI 报告,提出 20 项可执行的政策建议。这些建议旨在加速欧洲 AI 应用,提升竞争力并赋能创新者。
OpenAI 发布 AgentKit、扩展版 Evals 与面向智能体的 RFT 三项新工具,帮助开发者更快地从原型走向生产。
推荐理由:原文明确了 AgentKit、Evals 与 RFT 三款工具的定位,开发者可据此判断它们能否缩短从原型到生产的周期。
Wrtn 借助 GPT-5 在韩国将 AI 应用用户规模扩至 6.5M,打造出融合生产力、创造力与学习的「生活方式 AI」。这一「生活方式 AI」现正向东亚市场扩展。
OpenAI 与日本数字厅宣布达成战略合作,双方将共同在公共服务领域推进生成式 AI 的应用与发展。此外,双方还将支持国际 AI 治理,并在全球范围内推动安全、可信赖的 AI 采用。
三星与 SK 加入 OpenAI 的 Stargate 计划,将在韩国扩大先进存储芯片产能并建设下一代数据中心,以扩展全球 AI 基础设施。