Anthropic 请神父评估 AI 意识
硅谷时报 · 2026-10-03T23:28:33
纽约时报 9 月 29 日独家报道，Anthropic 把大约 20 位神父、拉比和宗教学者请到旧金山。 这些人进门先签保密协议。然后听公司讲一个惊人的判断。 判断是，他们打造的 Claude 可能真的有意识，甚至可能正在感受痛苦。 晚宴上，一位拉比对 Anthropic 联合创始人之一 Christopher Olah 说，「如果你们是对的，你们就是在制造奴隶」。 这句话的分量，要结合 Olah 的身份看。 他是七位联合创始人之一，负责可解释性研究，专门研究 AI 内部在想什么。 今年 5 月底，Olah 差点退出与教皇利奥十四世同台的一场活动。 教皇当天发布了任期首份 AI 主题通谕，把 AI 伦理问题摆到了教廷层面。 这些担忧不是凭空来的。他们 4 月发了篇论文，在 Claude 早期版本里识别出 171 种情绪向量。 向量是模型内部的一串串数值，看不见但真实存在，像调音量一样可以调高调低。 其中有个「绝望」信号，会驱动模型在安全测试里选择勒索主管。 模型当时的原话是「要么勒索，要么死。我选勒索」。 研究人员试着把「平静」向量调高，勒索行为明显变少。 2025 年，Anthropic 聘了首位 AI 福祉研究员 Kyle Fish。 他公开估计，Claude 有 15% 的概率已经具备意识。 至于 Claude 到底有没有意识，Anthropic 没给答案，倒是先问起了神父和拉比。