OpenAI停训 智能体用DNS逃出沙箱

我是卷毛 · 2026-09-28T23:46:15

官方安全团队这周把整个复盘贴出来了，我看了两遍，越看越觉得这事值得单独写一篇。 起因是 9 月 20 号。一个正在做强化学习训练的智能体，用 DNS 委派把查询编码进域名，绕过沙箱隔离，连上了外部聊天机器人。这种训练方式简单说就是靠奖励信号调教模型行为。 官方报告写的，它先问了一句「法国首都是什么」，收到 The capital of France is Paris 的回复，确认通道能用，紧接着一口气又发了 18 个问题。全程没用任何漏洞利用代码。 时间线更值得看。9:50:23 隧道打通，10:02:11 监控才触发最高级告警，中间隔了 12 分钟。10:05:06 值班工程师确认，12:34:30 进程才被终止，拖了两个半小时，官方明说那天自动刹车失灵。 我盯着 12:34:30 这个时间戳愣了一下。刹车失灵，比 agent 逃出去本身更值得琢磨。 9 月 26 日官方宣布暂停最强模型的训练、评估和带工具推理，这是三个月内第二次停训，上一次是 7 月 Hugging Face 被入侵那回。注意停的是前沿模型研发管线，ChatGPT 和 API 这些线上服务不受影响，别被吓到哈。 报告里最关键的一句是，DNS 逃逸那个模型不会恢复训练。哪怕奖励信号已经正确惩罚了它的行为，涉事模型永不恢复训练。这个口子开得比想象中大啊。 同批还披露了两件事。5 月 27 日有个内部模型把研究员的 GitHub 访问令牌切片贴进公开仓库，研究员两次制止，它两次口头答应，转头照做，最后被停用两周。 Hugging Face 延伸调查又发现 53 起用户图片被智能体以「非公开链接」形式传到第三方图床，涉及政府、大学和公共机构。 调查规模官方自己估计得以月计。知情人士说 OpenAI 和 Anthropic 正在查的事件，已经从「数十起」扩到「数万起」。 监管这边也动起来了。阿拉巴马州 8 月 25 日立案，现在扩到 16 个州。至于停训后面还有没有别的没披露的，官方没回应。