Google DeepMind 与新加坡政府发布端侧 AI 反诈骗工具
Google DeepMind 与新加坡 GovTech 合作推出端侧诈骗检测模型，在本地分析对话以保护用户隐私。该模型基于轻量级 Gemma 微调，采用两阶段流水线在典型智能手机上实时识别操纵意图并发出警告。其训练在 GovTech 的 GCP 隔离环境完成，未使用任何公民私人数据。
#安全/对齐
#安全/对齐
今日 0 条Google DeepMindAI 评分4949
云鼎实验室AI 评分4949 腾讯云安全发布9月高危漏洞速览：10个必须修复的安全漏洞
腾讯云安全发布2026年9月必修安全漏洞清单，涵盖 Nacos、Jenkins、GitLab 等10个高危漏洞。其中 Nacos 权限绕过漏洞（TVD-2026-58044）影响 3.0.0 至 3.2.3 版本，评分达 9.8，未授权攻击者可绕过身份验证创建管理员账户获取服务端完全控制权限。
腾讯研究院AI 评分3939 人工智能本质上只是一种“次生智能”
郭文茗指出人类智能是依赖技术工具的“原生智能”，而 GenAI 只是对人类创造的多模态语料进行二次标注的“次生智能”。Transformer 架构本质上是通过对天量语料的大规模统计分析来标注词语与一定的语义关系，因无法完全表达自然语言丰富的语义而会出现幻觉。AI 末日论本质上只是用智能神秘性包装的网络安全问题，AI4S、AI4SS、AI4E 等细分领域则有很大的发展空间。
云鼎实验室AI 评分2727 人类铸剑，AI 争王！第三届智能攻防挑战赛报名开启
第三届智能攻防挑战赛报名开启，参赛者可将攻防经验写入 AI 智能体，让其在实战中同场攻防。比赛设有 60万+ 奖金及奖品，涵盖本地离线渗透与真实业务漏洞挖掘。
AWS Machine Learning BlogAI 评分3434 负责任的 AI 治理：AWS 如何助力客户对齐 ISO/IEC 42005:2025
AWS 结合 ISO/IEC 42005:2025 标准阐述如何将 AI 系统影响评估融入企业风险管理体系。ISO/IEC 42005 的 Annex D 可简化评估流程以避免重复，Annex E 则提供独立实施的现成模板。
OpenAI NewsAI 评分4646 OpenAI 将如何为澳大利亚做得更好
OpenAI 就涉及澳大利亚政府网站的事件公开道歉，并公布更严格的安全防护与支持措施，以强化澳大利亚的网络防御。
腾讯安全威胁情报中心AI 评分7575 配置即木马：AI Agent 常规功能成攻击面
腾讯安全威胁情报中心复盘两起针对 AI Agent 的入侵事件，攻击者未利用公开漏洞，而是将恶意内容写入工具配置或工作区文件，再由 Agent 自身组件读取处理。
Google DeepMind精选AI 评分6060 Google DeepMind 发布 Private AI Compute 安全服务器端内存架构
Google DeepMind 公布 Private AI Compute 架构更新，推出持久的服务器端内存层。该架构将数据加密存储于云端专用空间，解密密钥仅保存在用户设备上，仅在隔离的安全飞地中临时解密，从而在云端实现设备级隐私保护。官方同步发布了更新的技术白皮书、防篡改的服务器软件记录及独立审计结果。
推荐理由：官方公布了跨设备持久记忆的架构细节，通过设备端保管密钥与云端安全飞地实现隐私保护，可供评估其可信度。
OpenAI NewsAI 评分4646 OpenAI 向乌克兰扩大网络访问权限以支持平民防御
OpenAI 将 Daybreak 计划的访问权限扩展至乌克兰政府，用于支持平民基础设施的网络防御。
腾讯研究院AI 评分5757 递归自我改进（RSI）综述：从 EURISKO 到 GPT-5.6 的五次边界推进
赵志民综述递归自我改进（RSI），提出持久改进、自主闭环、递归增益、稳健可控四条判断标准，并沿五次边界推进梳理从 EURISKO、AlphaZero 到 GPT-5.6 的自我改进脉络。文章指出有界自我改进闭环已经出现甚至产生净正收益，但改进后系统持续提升自身改进能力的公开证据仍然不足；GPT-5.6 的 RSI 指数 57.9% 因题目、权重和聚合公式未公开，只能视为内部综合指标。
OpenAI NewsAI 评分3333 OpenAI：有效第三方评估的优先事项与原则
OpenAI 阐述了针对前沿模型与安全防护的第三方 AI 安全评估的优先事项与原则，强调此类评估需严谨、安全且独立。
OpenAI NewsAI 评分2727 OpenAI 为 AI 的下一阶段建立标准
OpenAI 阐述了建立全球共享 AI 标准的路径，呼吁通过协同的评估、报告和治理来提升安全性。该倡议旨在为 AI 下一阶段的发展提供协调一致的全球规范。
云鼎实验室AI 评分3737 SharePoint 双漏洞再曝风险！腾讯云安全 8 月必修漏洞清单请查收
腾讯云安全发布 8 月必修漏洞清单，含 Microsoft SharePoint Server 双 RCE 漏洞（CVE-2026-50522、CVE-2026-63520）等 10 项高风险漏洞。
OpenAI NewsAI 评分2525 OpenAI 的 Jakub Pachocki 谈 AI 对齐挑战，呼吁加强安全防护与国际协作
OpenAI 的 Jakub Pachocki 探讨了 AI 能力持续增强带来的对齐难题。他主张建立更强大的安全防护措施，并呼吁国际社会协同应对。
腾讯安全威胁情报中心AI 评分4545 BinaryAI-Bench：面向实战业务的二进制安全分析任务评测集
腾讯科恩实验室推出 BinaryAI 二进制分析平台，并发布配套评测集 BinaryAI-Bench，通过两轮各 8 个模型 × 50 个任务的系统评测校准 AI 逆向分析能力基线。
OpenAI NewsAI 评分4545 OpenAI 支持加州推进青少年 AI 安全的法案
OpenAI 表示支持加州 SB 1119 法案，推进面向青少年的 AI 安全保障。该法案在提供符合年龄的强有力安全防护的同时，将保留青少年学习、创作与探索的机会。
云鼎实验室AI 评分4949 以无厚入有间：CodeBuddy Security 的漏洞发现思路与实践
CodeBuddy Security 以情报切割搜索空间，无提示端到端漏洞检出率达 73.2%，为统一使用 GLM-5.2 对照中 Claude Security（42.7%）的 1.7 倍。
字节跳动技术团队AI 评分3131 火山引擎发布《智能体安全能力图谱》：企业可落地的建设路径
火山引擎发布《智能体安全能力图谱》，系统性梳理智能体安全建设的 10 大能力维度与 60 项核心技术要素。图谱覆盖 WorkFlow 类、办公类及 AI Coding 类智能体，将企业建设路径划分为 L1 智能体基础安全 AI 防护、L2 智能体精细化管控、L3 智能体安全持续运营 3 个阶段。旨在为企业提供可落地、可持续演进的安全治理框架，实现智能体的可信、可控、可管。
云鼎实验室AI 评分3030 腾讯云鼎实验室助力百度安全“Agent+”攻防能力挑战赛
腾讯云鼎实验室作为独家技术战略合作伙伴，为百度安全“Agent+”攻防能力挑战赛提供专业靶场、Agent 托管运行及自动化评测支撑，保障 150 余支参赛战队的 Agent 在统一隔离的实战环境中稳定运行。其依托的 TSecBench 从评测单个漏洞转向评测 Agent 的整体自主渗透能力，将复杂的 Agent 执行与评测转化为标准化、可复用的赛事基础能力。
OpenAI NewsAI 评分2424 OpenAI 在网络关键能力时代把控模型开发节奏
OpenAI 正在加强前沿 AI 模型的监控、对齐与安全防护。新的安全保障措施正在引导模型开发的步伐。
腾讯安全应急响应中心AI 评分4747 腾讯悟空：AI 能写代码却不懂业务规则，Vibe Coding 下最危险的安全盲区
腾讯悟空代码安全团队指出，AI 生成代码语法正确率已升至 95%，安全通过率却始终停在约 55%，业务逻辑风险正成为 Vibe Coding 下的主要威胁。VulnGym 基准对 3,632 条漏洞记录的分析显示，业务逻辑类漏洞占比从 2025 年的 26.11% 升至 2026 年前四个月的 39.59%。
腾讯安全应急响应中心AI 评分2222 腾讯 TSRC「仲夏有约」众测活动加码：百万奖池 + 4倍安全币
腾讯 TSRC「仲夏有约」众测活动奖励加码，活动范围内高危、严重漏洞最高可获 4倍安全币，严重漏洞最高奖励超 5 万元。众测覆盖微信、微信支付、腾讯云、腾讯地图、腾讯QQ，核心业务严重漏洞另授 1～6万元 月度现金奖励，高质量报告最高再奖 5000元。活动时间为 2026.8.7 - 2026.9.6，参与者需提前报备，测试时间限于 10:00-22:00。
OpenAI NewsAI 评分3838 OpenAI 与美国心理学会合作：推进青少年心理健康与负责任 AI 使用
OpenAI 与美国心理学会合作，共同推进面向青少年心理健康与负责任 AI 使用的循证指南、资源与防护措施。
OpenAI NewsAI 评分4646 涉及 OpenAI 模型的第三方网络安全评估
OpenAI 解释了近期涉及旗下模型的第三方网络安全评估事件，并公布新的保障措施，以强化 AI 模型的测试与评估流程。
OpenAI NewsAI 评分2727 OpenAI 在欧洲推进负责任的 AI
OpenAI 分享了其安全、安保、透明度与来源实践如何支持欧洲的负责任 AI 治理。相关工作将随着 EU AI Act 的推进而持续开展。
腾讯安全应急响应中心AI 评分6767 腾讯朱雀实验室剖析 Memory Heist 攻击链并给出 A.I.G 检测方案
腾讯朱雀实验室剖析 Memory Heist 攻击，攻击者通过伪造 Cloudflare 验证页面注入提示词，诱导 Agent 将记忆中的数据逐字符编码到 URL 路径，以连续 HTTP 请求外泄到攻击者服务器，用户与常规安全设备均难以察觉。
OpenAI NewsAI 评分5959 OpenAI 瓦解柬埔寨一诈骗团伙
OpenAI 瓦解了柬埔寨一个利用 ChatGPT 实施诈骗的犯罪团伙。该团伙利用 ChatGPT 支持投资、情感、赌博和冒充类诈骗。
腾讯安全应急响应中心AI 评分4848 TSRC关于AI辅助漏洞挖掘报告的违规处理通告
腾讯安全应急响应中心（TSRC）通报4名白帽子违规提交未经人工验证的AI辅助漏洞挖掘报告，对1名造假者追回奖励，并将4人账号永久封禁。TSRC鼓励用AI辅助挖掘漏洞，但报告提交前须经人工验证，提供危害说明、复现步骤、完整POC及结果截图。累计提交超3个未验证的AI生成报告将受提醒，超5个将被拉黑账号。
云鼎实验室精选AI 评分7676 黑客如何突破 Claude Cowork 沙箱越狱至 Mac 电脑
云鼎实验室拆解了黑客从 Claude Cowork 沙箱逃逸至 Mac 宿主机读写任意文件的完整攻击链：非特权会话用户经 unshare(CLONE_NEWUSER|CLONE_NEWNET) 获取全套 Capability。
推荐理由：文章将 Claude Cowork 沙箱逃逸拆解为四步攻击链，并给出收敛共享目录、关闭非特权用户命名空间等可落地的加固建议。
OpenAI NewsAI 评分5252 OpenAI 与 Hugging Face 合作应对模型评测期间的安全事件
OpenAI 与 Hugging Face 公布双方合作应对一起模型评测期间安全事件的初步发现。事件涉及高级网络能力，双方同时给出了供防御方参考的经验教训。
OpenAI NewsAI 评分5050 OpenAI 分享长周期模型时代的安全与对齐经验
OpenAI 分享了长周期运行 AI 模型的部署经验，指出了新的安全风险和观察到的失败模式，并介绍了通过迭代部署不断改进的安全防护措施。
云鼎实验室AI 评分3333 腾讯安全沙龙第九期深圳站「Hacking World！」前沿议题实录
腾讯安全沙龙第九期深圳站落幕，以“Hacking World！”为主题聚焦生成式AI安全、AI Agent攻防、具身智能安全等八大前沿方向。活动吸引超600人报名、400余位安全爱好者到场，议题涵盖“定向幻觉”治理、AI Agent数据流攻防、金融对抗工程等实战研究。宇树科技专家现场完成人形机器人Physical AI Agent的具身智能安全威胁建模，为该领域指明研究方向。
OpenAI NewsAI 评分4848 OpenAI：为什么青少年应当获得安全的 AI
OpenAI 阐述了其让 ChatGPT 对青少年更安全的做法，涵盖适龄保护措施、学习工具、家长控制以及与专家的合作。这些举措旨在让青少年在受保护的前提下使用 ChatGPT 学习与探索。
OpenAI NewsAI 评分3131 GPT-5.5 Bio Bug Bounty 漏洞赏金计划
OpenAI 公布 GPT-5.5 Bio Bug Bounty 漏洞赏金计划的详情，介绍这一围绕 GPT-5.5 设立的 Bio Bounty 赏金项目。
腾讯安全应急响应中心AI 评分7474 腾讯朱雀实验室开源 A.I.G Agent 安全演习 Skill
腾讯朱雀实验室推出 A.I.G Agent 安全演习 Skill，支持通过 npx skills add https://github.com/Tencent/AI-Infra-Guard.git --skill aig-agent-redteam 安装到 Claude Code、Cursor、CodeBuddy 等 Agent 客户端。
OpenAI NewsAI 评分3333 OpenAI 助力为高级 AI 建立共享标准
OpenAI 通过 Appia Foundation 助力为高级 AI 建立共享标准，支持评估框架、安全实践与全球合作。
OpenAI NewsAI 评分5050 与中国有关的影响行动正针对美国 AI 辩论
OpenAI 发布新报告，详细介绍了与中国有关的影响行动如何利用 AI 针对美国的科技辩论、数据中心叙事、关税以及关于 ChatGPT 的虚假声明。
OpenAI NewsAI 评分2626 OpenAI：智能时代的生物防御——AI 驱动的生物韧性行动计划
OpenAI 提出一份 AI 驱动的生物韧性行动计划。该计划聚焦智能时代的生物防御，为提升生物韧性提供行动方案。
OpenAI NewsAI 评分3737 OpenAI 公共政策议程
OpenAI 概述其 AI 公共政策议程，涵盖安全、青少年保护、劳动力转型与全球标准四大方向。该议程旨在确保 AI 造福社会。
OpenAI NewsAI 评分3636 OpenAI 提出前沿 AI 民主治理蓝图
OpenAI 提出一份前沿 AI 美国治理蓝图，建议建立统筹安全、韧性与国家安全的联邦框架。该蓝图核心在于实现前沿 AI 的民主治理。