Hinton和Bengio联名：智能爆炸可能不远了
论文翻译官 · 2026-10-04T13:32:24
论文直译过来就是标题，如果 AI 研发自动化，会不会引发智能爆炸。剑桥的 AI 科学与政策项目 9 月 28 号发的，22 位作者。 名单值得看一眼啊。Hinton、Bengio 两位图灵奖得主，强化学习奠基人 Andrew Barto，OpenAI 研究副总裁 Pachocki，微软首席科学官 Horvitz，OpenAI 联创 Jack Clark。造模型和防模型的人，签在同一页纸上。 论文列了两个数。Anthropic 通过审核的代码里，AI 写的比例从 2025 年 1 月的个位数，涨到 2026 年 5 月的八成以上。需要人类监督、AI 独立完成的研发占比，今年 3 月是 1%，8 月到了 26%。 然后是测算。只要自动化研发的回报率维持在 1.2 到 1.9，一家头部公司现有算力，就能驱动几百万名顶尖研究员的 AI 团队。METR 还有一条曲线，AI 能独立完成的任务时长每三个月翻一倍。照这个速度，2028 年年中，它就能独立干完人类专家要干几个月的项目。 他们的诉求不是末日论，是政策一条，要求企业披露 AI 研发的自动化程度。 有个细节我盯了很久。署名是个人身份，而这些人恰恰是离自动化研发最近的人。警告者和造物者是同一批人，这件事怎么解读，比论文本身有意思多了。