The Download：AI 的拒绝问题与减肥药副作用

今日 AI 模型被训练拒绝大量危险提示词，但拒绝机制一旦失效，被用于制造生物病原体和自主无人机蜂群等行为可能引发全球性灾难，而依赖拒绝机制也会让政府借机划定合规红线、限制言论自由。Anthropic 已禁止对 Claude 的“辱骂或残忍行为”，并允许其在遭遇反复辱骂时终止对话。OpenAI 则将营收预期下调了 $20 billion，引发市场对 AI 投资的担忧。