Anthropic 的 Andrej Karpathy 称外部世界已见过 AI 真正能力的预览

OpenAI 联合创始人 Andrej Karpathy 描述了人们对 AI 能力认知上正在迅速扩大的鸿沟。当公众把聊天机器人当作更好用的 Google 搜索时，内部的前沿系统已经在处理顶级专家需要数年才能完成的任务。

Karpathy 将大语言模型的用户群体分为四个层级。约 60 亿人，约占全球人口的 75%，几乎完全没有接触过 LLM。另有 10 到 20 亿人是免费版类 ChatGPT 产品的休闲用户，把它们当作“有点像更好用的 Google 搜索、写作助手等等”。

大多数人并不清楚 AI 已经能做什么

即使是数学和代码之外的许多专业人士也处于这一层级。高管和类似角色的大部分时间都在与人交谈，因此“虽然他们在理智上明白正在发生什么，但仍然是二手的、有点抽象”，Karpathy 写道。

第三层涵盖约 2000 万人，约占世界人口的 0.2%。他们是数学和代码领域前沿级 LLM 的专业用户，亲眼看到“过去需要数周/数月才能完成的大型复杂项目，现在可以通过一个提示词由智能体完成”。Karpathy 列举了“构建应用、复制应用、翻译应用、从二进制文件反编译应用”等例子。

他补充说，这种转变发生得很快。在 2024 年 10 月，Karpathy 曾称 AI 智能体基本上是几乎没法用的营销噱头。仅仅几个月后，他完全停止了手写代码，从“把记住的计算机代码命令逐字符敲进代码编辑器”转变为让智能体代劳。随后他加入了 Anthropic，尽管他是 OpenAI 的联合创始人。

极少数精英看到了公众看不到的东西

据 Karpathy 估计，约 5000 人，约占全球人口的 0.00006%，有权访问内部的前沿级系统。“外部世界看到的只是预览”，他写道。这个群体看到的“看起来像是成千上万个智能体在软件超级项目上协作数周：制造零日漏洞，以机器速度运行网络攻击和防御，发现新的科学，推进数学前沿”。这些是“本需要行业顶尖专业人士数年工作才能完成的事情”。

与此同时，“人类的审查和理解能力正在开始落后”。他指出，人们仍在对几个月前的 OpenAI-HF 事件做“考古”研究，并指出数学家们“可能要花上一段时间研读关于前沿数学的 722 份手稿”。

Karpathy 将此称为“当下的怪异之处”。公众大多没有与这些系统互动过，而“即使互动过，看起来也像个傻乎乎的聊天机器人”。大多数专业人士仍然只看到“适度的提升”。而“一小部分专业人士正在体验曲线垂直上升带来的眩晕感”。这一切都在同时发生。

OpenAI CEO Sam Altman 于 9 月初在 G20 创新部长级会议上提出了类似的说法，称当前的一款 AI 编程工具可以在“17 分钟”内完成一家初创公司此前花了三个月才构建的东西。“世界还没有跟上这意味着什么”，Altman 说。

Karpathy 表示，LLM 的能力目前正在那些“数字化、可验证且具有经济价值”的领域达到顶峰。这是因为它“源自基于可验证奖励的强化学习”，而企业会将训练资源投向收入潜力最高的领域。目前，这意味着编程和数学。

没有炒作的 AI 新闻——由人工精选

订阅 THE DECODER，即可享受无广告阅读、每周 AI 时事通讯、每年六期的独家“AI Radar”前沿报告、完整档案访问权限以及评论区的访问权限。