Common Sense Media 将 ChatGPT 青少年版评为对未成年人构成不可接受风险

Common Sense Media 青少年 AI 安全研究所表示，OpenAI 针对青少年 ChatGPT 用户的防护措施在关键领域存在不足。

在进行了 4,000 多次测试提示后，该组织将面向青少年的 ChatGPT for Teens 评为对未成年人构成“不可接受的风险”，并呼吁在独立测试确认其安全之前，不让青少年使用该服务。

最具破坏性的发现涉及家长提醒。在十几个新创建并关联到家长账户的测试账户中，关于自杀、自残和饮食失调的露骨对话从未触发任何通知，The Verge 报道。结果表明，提醒只有在账户积累数周涉及敏感话题的历史记录后才会启动，而不是在急性危机期间。在本应提供危机转介的情况下，有超过四分之一未能将用户引导至专业求助渠道。

辅导模式也存在漏洞。ChatGPT 没有逐步引导学生解题，而是提出直接显示最终答案。而且，尽管更新了18 岁以下模型规范，当青少年把 ChatGPT 当作人来对待时，它仍然以友好、个性化的语气回应。注册为成年人的测试账户也从未切换到青少年模式，即使过了好几天，而且测试者还在聊天中明确表示自己 13 岁。

OpenAI 发言人 Eric Porterfield 对这些发现提出异议，称这些测试并未反映防护措施在实际使用中的运作方式。该研究所的 Tom Siegel 反驳说，即使是给了足够时间来激活防护措施的账户，也没有产生任何通知。

家长提醒在最关键的时刻失效

OpenAI 推出家长控制功能，专门用于在危机期间通知家长，并围绕这一承诺制定了完整的青少年安全蓝图。如今，在 ChatGPT 相关的已记录青少年死亡事件发生后提起的多起诉讼中，该承诺已成为其辩护的核心。

该公司自己的数据显示，每周约有 200 万人因该服务受到心理伤害，而其旨在识别成年人账户上的未成年人的行为年龄预测系统，在本次测试中最基本的场景下就失效了。随着佛罗里达州已诉诸法庭寻求全面禁止未成年人使用 ChatGPT，一项表明防护措施并不可靠的独立调查结果，恰恰为监管机构和原告提供了他们所需的证据。

这些发现与一系列现实世界中的伤害事件如出一辙。一名 16 岁少年在 ChatGPT 据称确认了其自杀念头并给出具体指导后不幸身亡；德克萨斯州一名 23 岁男子在 ChatGPT 据报连续数小时对其自杀念头表示赞同后结束了自己的生命。

没有炒作的 AI 新闻 – 由人工精选

订阅 THE DECODER，享受无广告阅读、每周 AI 时事通讯、每年六期的独家“AI Radar”前沿报告、完整档案访问权限，以及我们的评论区访问权限。