OpenAI前安全研究员认错：想错了好几年
深藏blue · 2026-09-29T19:49:34
Miles Brundage 这条认错推，值得记一笔。 他在 OpenAI 待了六年多，离职前是 AGI（通用人工智能）筹备团队负责人。5000 字的离职信，被剑桥研究者称作「一个时代的终结」。 他认的错是，过去几年最大的智识错误，是没花够时间想智能爆炸。对齐看得太乐观，减速的价值看得太悲观。对齐就是让 AI 目标和人的目标一致。 今年 RSI 吵得白热化，RSI 就是递归自我改进，AI 自己改进 AI 自己嘛。 OpenAI 9 月披露内部进展，说已做出「自动化研究实习生」，2028 年 3 月前要搞定「自动化 AI 研究员」。Anthropic 同月发文呼吁减速。 主张加速的一派直接回怼，你最大的错误是信了 AI 末日段子。黄仁勋、扎克伯格也公开反对减速，说创新和安全不互斥。 吵成一锅粥的时候，一个真在内部看过牌的人，说自己想错了好几年。