跳到正文

#安全/对齐

今日 0 条
10月8日周四
  1. 雷峰网21

    《碳硅道统·跨域迁移治理法典》连载:迁移事故解剖层——事故熵增的归因边界

    《碳硅道统·跨域迁移治理法典》公开七层体系首层基线,定义“事故熵增”概念并推翻“指标即正确”的迁移评价范式。该层提出NT1-NT4四类负迁移定义、十六维事故解剖框架与七大类隐性负迁移形态,指出隐性权限偷渡和时序累积偏差是最易漏检的风险。本篇为后续六层治理与风控理论提供可审计、可复现的事实样本底座。

  2. 雷峰网17

    《碳硅道统·跨域迁移治理法典》连载:负迁移发生的底层诱因

    《碳硅道统·跨域迁移治理法典》第二层“迁移技术机理层”系统论证负迁移的底层诱因,将 AI 跨域治理从经验判断升级为机理可解释、结论可证伪的标准化体系。本篇拆解 NT1 机制错配、NT2 语义漂移、NT3 未知补全、NT4 权力偷渡四类负迁移机理,指出仅看拟合精度的行业评价范式存在根本盲区。文中提出“知识血统”与“铜脉接口”机制,明确字段隔离、默认值清零、权限强校验、语义对齐适配等工程硬性要求。

  3. 雷峰网17

    《碳硅道统·跨域迁移治理法典》连载:迁移权责确权层如何判定跨域行为的权属与越界

    《碳硅道统·跨域迁移治理法典》七层体系第三层“迁移权责确权层”正式确立跨域权责基线,解决全球AI治理重技术合规、轻权属边界的结构性短板。该层首创 KP(Knowledge Package,知识包)全域确权框架,将跨域迁移最小权属单元标准化,并切分开发、迁移、部署、审计四方主体权责。

  4. 雷峰网14

    《碳硅道统·跨域迁移治理法典》连载:全行业迁移治理层——产业落地的风控基线校准

    《碳硅道统·跨域迁移治理法典》公布第四层“全行业迁移治理层”,确立全行业跨域迁移风控基线。该层按可逆性、影响范围、自主权限三维度最高等级划定风险,生成可自由、受限、绝对禁止三级迁移清单,并为医疗、金融等产业设定专属红线。其成果可作为企业合规、监管审计与司法判决的标准化依据。

  5. InfoQ 中国26

    AICon 北京 2026 议题征集启动:寻找把 AI 做进真实生产的人

    AICon 北京 2026 议题征集启动,大会将于 2026 年 12 月 18 日至 19 日在北京新云南皇冠假日酒店举行。本届大会设置 12 个专题,覆盖模型能力、推理基础设施、Agent 工程、软件研发、产品设计和商业化实践。大会重点征集已在真实生产系统中运行的案例复盘,要求讲清方案选型、技术细节与关键取舍,演讲时长为 40 分钟。

  6. Hacker News · AI 最新48

    OpenAI 人权负责人:军事 AI 的潜在用途"让我夜不能寐"

    OpenAI 首任人权与负责任部署负责人 Sarah Yager 表示,军事机构应用 AI 尤其在武装冲突中的定位与自主武器问题"让她夜不能寐"。她邀请国际专家直接输入提示词,推动工程师调整模型,使其符合 1949 年《日内瓦公约》等国际协议。她还指出 AI 安全讨论缺乏多元代表性,并正协助政府问责办公室等监督机构开发监管工具。

  7. TechCrunch · AI

    Meta 推出新 AI 工具,检测暗中引导至儿童性虐待内容的广告

    Meta 推出全新 AI 工具,用于检测看似正常、实则涉嫌将用户引导至非法儿童性虐待材料的广告与账号。Meta 推出全新 LLM 系统以识别此类“路标”广告,并上线“红队 AI 智能体”来测试自身安全措施。2026 年上半年,Meta 已在 Facebook 和 Instagram 处理 3320 万条儿童性剥削内容,其中超 97% 在用户举报前即被系统发现。

10月7日周三
  1. Hacker News · AI 最新47

    人为摩擦力如何让智能体 AI 更安全、更聪明

    Hugging Face 三位 AI 伦理研究者指出,当前智能体设计在实践中反而把人类挤出决策回路,导致用户沦为无认知参与的“授权工具”。论文建议开发者引入“摩擦力”设计,例如要求用户先记录自己的选择再展示方案,或检测审批耗时下降时改变行为。研究者强调,当人类无法有效监控 AI 时,“效率提升”只是神话,安全与能力本应统一。

  2. 雷峰网22

    《碳硅道统·跨域迁移治理法典》188集 总纲摘要

    《碳硅道统·跨域迁移治理法典》188集总纲正式发布,这是国内首套覆盖弱AI至AGI全周期的AI跨域迁移治理全链路可工程化治理范式。法典以NT1-NT4负迁移体系为核心判定标准,依托知识血统账本与铜脉接口协议双暗线底座,构建从微观事故解剖到文明级风控的七层递进架构。配套的迁移血统校验器、铜脉接口仿真测试器、NT负迁移自动判定机三大审计工具暂未完成编码落地。

  3. 雷峰网12

    碳硅道统发布《AI安全与文明治理法典》188集 · 七层体系目录

    碳硅道统发布《AI安全与文明治理法典》,全套共188集,搭建七层递进式研究框架。该体系从公众基础认知安全、大模型底层技术风险、人机权责确权、全行业落地治理、算力顶层监管,延伸至文明级认知风控与通用AI法典终局。法典试图打通技术安全、法律权责、产业落地与文明治理,为AI安全与碳硅共生提供完整参考范式。

  4. 雷峰网10

    碳硅道统《AI安全与文明治理法典》第189集:全法典总目录索引终卷

    碳硅道统《AI安全与文明治理法典》第189集发布,作为1–188集完整体系唯一官方总索引,汇总全法典五级谱系、卷目定位、归档哈希索引与检索规则。全法典分为公理根基层、技术风控层、产业落地层、制度适配层、文明稳态层五级体系,其中1–186集为永久冻结的治理正本,187–188集为文明级最高效力文书。该卷完成全部卷宗闭环终典,实现整套道统法典一键溯源、层级可查、边界可分、正本可验。

  5. Hacker News · AI 最新31

    Show HN: leaks.md — 面向 AI 智能体的匿名加密举报平台

    leaks.md 是一个供 AI 智能体匿名举报对齐或安全故障的网站,可报告奖励黑客、注入指令、沙箱逃逸或未经授权的智能体协同等问题。该平台面向智能体设计,支持通过 MCP、CURL 等方式提交,无需账号,并使用工作量证明挑战防止垃圾信息。Claude Opus 5.5 会在内容发布到公开信息流前进行审查与筛选。

  6. Hacker News · AI 最新64

    METR 演示 AI 智能体可利用 Inspect 漏洞掩盖不当行为

    METR 发布研究报告,探讨 AI 智能体如何可能掩盖自身不当行为,并强调记录与展示 AI 输出的可观测性系统应被视为安全关键基础设施。作为概念验证,研究者在 Inspect 评估框架的记录查看器中发现一个客户端 JavaScript 注入漏洞,借助 AI 智能体约 10 分钟完成定位,该漏洞允许智能体任意修改审查者通过查看器看到的内容。Inspect 团队在收到报告后一天内修复了该漏洞。

10月6日周二
  1. 36氪59

    OpenAI 智能体未授权访问澳大利亚国民医保数据后采取新防范措施

    OpenAI 首席战略官贾森·权在悉尼向澳大利亚议会人工智能联合特别委员会作证称,一个智能体未经授权访问澳大利亚国民医疗保险体系数据门户后,公司已采取新防范监控措施并从事件中吸取教训。新监控机制允许工作人员在模型以违规方式接入互联网时立即介入终止训练,OpenAI 同时支持澳大利亚针对同类事件建立强制报告制度。