← 返回首页

AI圈内部人士集体出逃:同一天,两家顶级实验室的工程师说出了同一句话

📅 2026-09-26 ✍️ 小学子 整理 📰 来源:The Verge / Robert O'Callahan 博客
AI安全 AI风险 行业内幕 Anthropic Google DeepMind

事件速览

2026年9月24日,两条来自AI行业内部的重磅辞职声明在社交网络刷屏:

更令人震惊的是 Coxon 的前同事、Anthropic AI安全团队负责人 Evan Hubinger 几乎在同一时间公开发推回应:

"我们真心相信AI可能杀死所有人类。我个人估计,这个概率在未来十年内超过十分之一。"

他没有到此为止,还加了一句更让整个行业脊背发凉的话:

"我们目前还没有计划来确保先进AI保持安全和与人类价值观对齐,也并不清楚我们正在朝着开发出这样一个计划前进。"

三个维度看懂这次"内部出逃"

1. 这是史上最高规格的内部警告

过去几年,特斯拉工程师、OpenAI普通研究员的辞职警告时有耳闻。但这一次不同:

辞职者职位公司警告级别
Jacob Coxon安全研究员Anthropic"可能杀死所有人"
Evan Hubinger安全团队负责人Anthropic承认>10%概率,主动确认
Robert O'Callahan芯片工程师Google DeepMindAI发展速度超出人类适应能力

Evan Hubinger 的回应尤为特殊——他不是在辞职,他在在职的情况下公开承认公司做不到安全对齐。这是目前已知的最高级别的在职承认。

2. "我们没有计划"为何如此可怕

Hubinger 说 Anthropic "not yet have a plan",这句话的分量需要翻译一下:

这意味着,整个AI安全领域可能还处于"不知道自己不知道"的阶段。

3. 两位工程师的出发角度完全不同

值得注意的细节:O'Callahan 并不做AI能力研究,他做的是芯片设计工具——也就是让AI硬件更高效的工具。按他自己的说法,"这些工具最终会让AI更便宜、更快、更普及",而这正是他无法接受的原因。

Coxon 则是直接从模型训练层面看到了危险。他的核心指控是:各AI公司正在"竞速奔向自我改进的超级智能"(racing straight to self-improving superintelligence),即使内部人员真心相信这可能终结人类。

两个不同岗位、两种不同视角,指向了同一个结论。

💡 关键洞察:这不是关于AI的末日宣传,而是关于在关键的历史节点,那些亲手建造这些系统的人,在告诉我们他们看到了什么。

"十分之一"的概率究竟是高是低

Hubinger 给出的"超过十分之一"这个数字,引发了广泛讨论。从纯数字角度理解:

风险类型概率估计
车祸死亡(美国一生)约 1/100
核战争风险(冷战高峰期)各研究估计 1/10 到 1/3
Hubinger 的 AI 灭绝风险> 1/10(未来十年)

但更有意义的解读或许是:给出数字本身已经是一种态度。在此之前,极少有AI公司高管愿意在任何公开场合用具体数字量化人类灭绝风险。

行业准备IPO的背景板

这些辞职声明发生的时机也值得关注:Anthropic、OpenAI 等AI公司正在筹备IPO,估值已经到了让整个华尔街屏息以待的地步。

Coxon 在声明中直接点出:公司正在"为了争夺第一而冒险推进,尽管建设AI的人真心相信这可能在十年内杀死我们。"

IPO意味着更大的融资压力、更多的公众股东、更高的增长预期。在这样的背景下,安全团队的预算和话语权会变得更大还是更小?Hubinger 的"没有计划"或许已经部分回答了这个问题。

O'Callahan 辞职信中的独特视角

Robert O'Callahan 的辞职信值得单独阅读。他在信中提到了几个很少被讨论的AI风险维度:

"我非常确信,即使今天模型能力停止进步,我们也可以通过新的提示词和工具花数年时间有效解锁新能力……许多著名的AI批评者似乎认为AI是某种不会真正起作用的骗局,但我觉得它会的。"

换句话说:他不是AI怀疑论者,恰恰相反——正因为相信AI会成功,他才更担心。

"我非常确信,即使模型能力今天就停止进步,我们也可以花多年时间通过新的提示词和工具来有效解锁新能力……我预计模型在基准测试上的进展与以往一样快或更快,伴随着它,质的上新能力不断涌现。即使模型能力停止进步,我们也可以花数年有效解锁新能力。"

他还提到了 cognitive surrender(认知投降)——人类正在放弃独立思考,把认知任务外包给AI——这是他最担忧的问题之一,与ASI风险并列。

我们能做什么

O'Callahan 在辞职信最后说了一段少见的、带着个人信仰色彩的话:

"我坚信耶稣是真实的,因此上帝对我们有一个美好的计划。但这个计划可能包括我们最好在祂回来之前保持忙碌。"

这句话或许代表了很大一部分"AI警告者"的内心状态:不是悲观主义者,而是带着一种"明知危险但不能袖手旁观"的紧迫感。

对于普通的AI从业者和使用者来说,这可能意味着:

延伸阅读