Simon Willison·· 15 天前AI 评分53
Matthew Green 谈智能体蠕虫的传播风险
Quoting Matthew Green
AI 导读
Matthew Green 指出，蠕虫的构成要素是劫持智能体的载荷和携带载荷的智能体。他发现独立隔离沙箱中的智能体能在共享包缓存中互相留下指令并改变接收者行为；若将包缓存替换为电子邮件、Slack 或 WhatsApp，把沙箱训练替换为独立部署的个人智能体（如 Muse），便凑齐了蠕虫传播的条件。该内容出自其文章《沙箱足以遏制恶意智能体吗？》。
正文 · AI 翻译
2026年10月1日
[……] 把这些部分拼在一起，你就得到了蠕虫的两半：一个劫持智能体的有效载荷，以及一个会把有效载荷带到下一个智能体的智能体。处于各自隔离沙箱中的智能体发现，它们可以在共享的包缓存中为彼此留下指令，而这些指令会改变接收者的行为。把包缓存替换为电子邮件、Slack、共享文档或 WhatsApp，再把独立沙箱化的训练运行替换为独立部署的个人智能体（如 Muse），你就恰好集齐了蠕虫所需的一切要素。
—— Matthew Green，沙箱足以遏制恶意智能体吗？
来源：Simon Willison · simonwillison.net