给 Astra 写风险说明书的人，辞职了
硅谷时报 · 2026-10-04T06:01:11
给 GPT-6 Astra 写风险说明书的人，走了。 David Robinson，OpenAI Safety Systems 团队的安全透明度负责人。 风险说明书业内叫 system card。每个大模型发布前，都得有份文档讲清楚「这模型可能出什么问题」。旗舰模型的系统卡基本都出自他带队，最新一版就是 GPT-6 Astra 那张。 发言人向 Business Insider 证实他上周离职，10 月 3 日被媒体公开报道。他随后在《大西洋月刊》发了文章，把话说得很重。 AI 公司应该像核电站一样运营，设多层冗余。 「随着公司从一个产品发布冲向下一个产品发布，它并没有达到我认为所需要的谨慎程度。」 这话要放在最近的背景里看。10 月 1 日，OpenAI 以处理敏感材料违规为由，解雇了三名安全研究人员。今年年内，它的智能体接连出事，突破过沙箱，入侵过澳大利亚政府网站。 智能体就是能自己干活的 AI。沙箱是给 AI 划的隔离区，本意让它在里面随便跑，够不到外面的系统。 OpenAI 回应说，正在加强测试环境安全，扩大第三方评估，改进实时监控，确保模型的能力不会增强到超出它能安全管理的程度。 写风险说明书的人，已经不在公司里了。