OpenAI 发布 gpt-oss-safeguard
OpenAI 发布 gpt-oss-safeguard，这是一款用于安全分类的开放权重推理模型，允许开发者应用并迭代自定义安全策略。https://openai.com/index/introducing-gpt-oss-safeguard
推荐理由：原文指出该开放权重模型可按自定义策略做安全分类，开发者能据此在自己的应用中设计并迭代安全策略。
#安全/对齐
#安全/对齐
今日 0 条OpenAI News精选AI 评分6060
OpenAI NewsAI 评分5050 GPT-5 系统卡补充说明：敏感对话
OpenAI 发布 GPT-5 系统卡补充说明，详述 GPT-5 在处理敏感对话方面的改进。该补充说明引入针对情感依赖、心理健康与越狱抵抗的全新评测基准。
OpenAI NewsAI 评分4747 OpenAI 如何定义与评估 LLM 的政治偏见
OpenAI 提出一套新的真实世界测试方法，用于定义和评估 ChatGPT 的政治偏见，以提升评估的客观性并减少模型偏见。
OpenAI NewsAI 评分3636 OpenAI 打击 AI 恶意使用：2025 年 10 月报告
OpenAI 发布 2025 年 10 月报告，介绍其检测并打击 AI 恶意使用的最新工作。报告还说明了如何应对滥用、执行政策，以及保护用户免受现实世界伤害。
OpenAI News精选AI 评分6161 OpenAI 封禁「九段线」行动相关账号，该行动利用 AI 生成南海、香港及美国政治影响内容
OpenAI 封禁了一批与此前未披露的中国来源行动「九段线」（Nine-emdash Line）相关的账号，该行动利用 AI 生成关于南海、香港和美国政治的区域性影响内容。
推荐理由：原文给出了被封禁账号的来源、行动命名与涉及议题，可据此了解 AI 被用于区域性影响活动的具体形态与平台处置方式。
OpenAI NewsAI 评分5353 OpenAI 封禁与俄罗斯「Stop News」AI 影响行动相关的账号
OpenAI 封禁了与一项源自俄罗斯、被其称为「Stop News」的行动相关的账号。该行动利用 AI 生成针对非洲和英国的影响内容，OpenAI 将其定性为累犯式影响活动。
OpenAI NewsAI 评分4040 OpenAI 与美国 CAISI 和英国 AISI 合作构建更安全的 AI 系统
OpenAI 分享了与美国 CAISI 和英国 AISI 合作的最新进展，旨在加强 AI 安全。双方将共同构建更安全的 AI 系统。
OpenAI NewsAI 评分3434 OpenAI 集体对齐：公众对 Model Spec 的意见
OpenAI 在全球调查了超过 1,000 人对 AI 应有行为的看法，并将结果与 Model Spec 对比。集体对齐正据此塑造 AI 的默认行为，使其更好地反映多元的人类价值观与视角。
OpenAI NewsAI 评分3636 OpenAI 如何在用户最需要时提供帮助：关于精神与情感困扰用户安全的思考
OpenAI 阐述了其对经历精神或情感困扰用户安全的思考，指出当今系统仍存在局限。团队同时分享了正在推进的改进工作，致力于在用户最需要时提供有效帮助。
OpenAI NewsAI 评分2828 Outtake 如何借助 OpenAI 将数字威胁解决速度提升 100x
Outtake 使用 GPT-4.1 与 OpenAI o3 驱动 AI 智能体，检测并解决数字威胁的速度比此前快 100x。
OpenAI NewsAI 评分2323 OpenAI 正在为未来生物学领域的 AI 风险做准备
OpenAI 正在评估高级 AI 在生物学领域的能力并实施防护措施，以防止技术被滥用。高级 AI 有潜力变革生物学与医学，但同时也会带来生物安全风险。
OpenAI NewsAI 评分4848 Operation “Sneer Review”：OpenAI 封禁源自中国的影响力行动
OpenAI 封禁了一批利用 AI 生成帖子、批评一名台湾社交媒体网红及相关美国话题的账号。这些账号关联代号为 “Sneer Review” 的源自中国的影响力行动。
OpenAI NewsAI 评分4747 OpenAI 封禁疑似关联伊朗的 STORM-2035 影响力行动账号
OpenAI 封禁了与疑似关联伊朗的 STORM-2035 影响力行动相关的账号。这些账号使用 AI 生成有关美国、英国、爱尔兰和委内瑞拉政治的影响力内容。
OpenAI NewsAI 评分5353 OpenAI VAGue Focus 行动：封禁从事社会工程学与影响力活动的账号
OpenAI 开展 VAGue Focus 行动，封禁了将 AI 用于社会工程学、监控主题研究，以及针对批评者的影响力活动的账号。
OpenAI NewsAI 评分4848 OpenAI "High Five" 行动：封禁用 AI 生成菲律宾政治评论的账号
OpenAI 封禁了一批利用 AI 在各社交媒体平台生成菲律宾政治和公职人员评论的账号，相关行动代号 "High Five"。
OpenAI NewsAI 评分1717 OpenAI：通往 AGI 之路上的安全
OpenAI 表示正主动适应安全挑战，将全面的安全措施直接构建进其基础设施和模型之中，作为通往 AGI 道路上的安全保障。
腾讯科恩实验室AI 评分3939 BinaryAI 函数语义匹配大模型 API 日调用量破亿：前沿技术与业务适配的实战验证
腾讯科恩实验室 BinaryAI 函数语义匹配大模型 BAI-3.0 的 API 日调用量破亿，日均处理十万级二进制文件分析请求，单日峰值达 40 万文件。平台已深度集成至 TAV、TIX、BSCA 等腾讯云安全产品，覆盖挖矿威胁防御、后门检测、软件供应链安全等六大核心场景。2025 年 BinaryAI 将结合推理大模型与 AI Agent 技术驱动产品升级。
腾讯科恩实验室AI 评分1616 腾讯云安全科恩实验室2025社会招聘
腾讯云安全科恩实验室启动 2025 年社会招聘，开放二进制漏洞研究员、终端安全产品运营工程师和终端安全研究员 3 大安全技术岗位。求职者可通过扫描岗位二维码，或登录腾讯社招官网 careers.tencent.com 搜索岗位名称投递简历。
OpenAI NewsAI 评分4949 OpenAI deep research System Card
OpenAI 公布 deep research System Card，汇总发布 deep research 前完成的安全工作。报告涵盖外部红队测试、依据 Preparedness Framework 开展的前沿风险评估，以及针对关键风险领域的缓解措施。
腾讯科恩实验室AI 评分4040 BinaryAI 更新布告：用户管理、文件管理体系全新升级
腾讯安全科恩实验室二进制安全智能分析平台 BinaryAI 发布三大功能升级，覆盖用户登录体系、文件上传权限细化与 API Key 自助管理。用户可通过微信扫码快捷登录并查看操作历史，文件支持以公开（默认）或私有方式上传，满足协作讨论与独立分析场景。用户现可自行创建和管理 API Key，用于获取 SCA 结果、二进制/源码函数匹配结果、函数 Embedding 等数据。
OpenAI NewsAI 评分4848 OpenAI 封禁围绕加纳 2024 年总统大选的隐蔽影响力行动账号
OpenAI 封禁了一批围绕加纳 2024 年总统大选开展隐蔽影响力行动的账号。这些账号利用 AI 生成文章、帖子和虚假互动，试图操纵大选舆论。
OpenAI NewsAI 评分5858 OpenAI 封禁与伊朗关联的 AI 影响力行动账号
OpenAI 封禁了与伊朗关联的账号，这些账号使用 AI 生成与 IUVM 和 STORM-2035 影响力行动相关的文章和社交帖子。
OpenAI NewsAI 评分4343 OpenAI 封禁利用 AI 辅助实施虚假评论兼职诈骗的账号
OpenAI 封禁了一批疑似来自柬埔寨的账号，这些账号利用 AI 翻译信息，协助实施虚假评论兼职诈骗。此类诈骗以虚假评论兼职为名，要求受害者支付费用。
OpenAI NewsAI 评分5252 OpenAI 封禁涉嫌虚假就业骗局的账号
OpenAI 封禁了一批可能被用于实施虚假就业骗局的账号，相关活动具有公开报道中与朝鲜有关的 IT 工人活动的特征。
OpenAI NewsAI 评分5959 OpenAI 封禁 CyberAv3ngers 相关账号
OpenAI 封禁了疑似属于 CyberAv3ngers 的账号，该组织被指与伊朗相关；这些账号利用 AI 研究工业控制系统、默认凭据和攻击目标。
OpenAI NewsAI 评分5959 OpenAI 封禁与伊朗关联的 STORM-0817 账号
OpenAI 封禁了与伊朗关联的 STORM-0817 账号，这些账号利用 AI 调试 Android 恶意软件、抓取社交平台内容并翻译工具。
OpenAI NewsAI 评分4040 OpenAI 封禁制造虚假 ChatGPT「俄罗斯巨魔」错误提示的账号
OpenAI 封禁了一个很可能源自美国、利用 AI 制作虚假 ChatGPT 错误提示的账号，该提示谎称可检测「俄罗斯巨魔」活动。
OpenAI NewsAI 评分4545 OpenAI 封禁卢旺达选举前利用 AI 生成党派评论的账号网络
OpenAI 封禁了一批源自卢旺达的账号，这些账号在该国选举前夕利用 AI 生成党派性评论，构成政治评论网络。
OpenAI NewsAI 评分4646 OpenAI Tort Report：恶意举报活动
OpenAI 封禁了一批利用 AI 撰写针对越南公众人物和平台的恶意举报与投诉的账号。
OpenAI NewsAI 评分4646 OpenAI 封禁 Bet Bot 赌博垃圾信息网络
OpenAI 封禁了一批账号，这些账号通过一家以色列初创公司访问其模型，在 X 上生成对话并向用户发送赌博网站链接。该垃圾信息网络被命名为 Bet Bot。
OpenAI NewsAI 评分5050 OpenAI 打击隐蔽影响力行动中的 AI 欺骗性使用
OpenAI 封禁了与隐蔽影响力行动相关的账号，并称这些行动未因其服务获得显著的受众增长。相关行动试图隐蔽利用 AI 进行欺骗性传播，但 OpenAI 判定其传播效果未获实质提升。
OpenAI NewsAI 评分1616 OpenAI 安全实践
OpenAI 表示，通用人工智能（AGI）有潜力惠及人们生活的方方面面，因此必须以负责任的方式进行开发和部署。
OpenAI NewsAI 评分5656 OpenAI 打击国家背景威胁行为者对 AI 的恶意使用
OpenAI 官方宣布打击国家背景威胁行为者对 AI 的恶意使用。
OpenAI NewsAI 评分4949 前沿模型论坛公布新任执行董事及 $10 million AI 安全基金
OpenAI 与 Anthropic、Google、Microsoft 共同宣布 Frontier Model Forum 新任执行董事，并推出新的 $10 million AI 安全基金。
OpenAI NewsAI 评分5656 OpenAI 开放红队网络申请
OpenAI 宣布开放 OpenAI Red Teaming Network 申请，邀请有意提升其模型安全性的领域专家加入。
OpenAI NewsAI 评分4747 OpenAI 与其他领先实验室共同推进 AI 治理
OpenAI 与其他领先实验室通过自愿承诺，共同强化 AI 安全、安保与可信度。这一举措旨在推动 AI 治理向前发展。
OpenAI NewsAI 评分3737 OpenAI 网络安全资助计划
OpenAI 网络安全资助计划旨在通过资助与其他支持，推动防御者开发以 AI 驱动的网络安全能力。
OpenAI NewsAI 评分3232 OpenAI：超级智能的治理
OpenAI 表示，当下是开始思考超级智能治理问题的合适时机。超级智能指能力远比 AGI 更强大的未来 AI 系统。
OpenAI NewsAI 评分1111 OpenAI 的 AI 安全方法
OpenAI 表示，确保 AI 系统在构建、部署与使用各环节的安全，对其使命至关重要，安全贯穿 AI 系统从开发到应用的全流程。
OpenAI NewsAI 评分3535 OpenAI 对齐研究的方法
OpenAI 正在改进其 AI 系统从人类反馈中学习的能力，并让 AI 协助人类评估 AI。其最终目标是构建一个充分对齐的 AI 系统，以帮助解决所有其他的对齐问题。