又有一位 AI 安全研究员，从头部实验室出走了。
这次是 Google DeepMind 的 AGI 安全与对齐研究工程师 Bilal Chughtai，他在 9 月 14 日发了一条长推，宣布自己已经从 DeepMind 辞职，并发出了一段相当沉重的警告：
“我真诚地相信，AI 有潜力杀死我们所有人，而我们可能正在耗尽避免这一结局的时间。
关于 Bilal Chughtai
Bilal Chughtai 毕业于剑桥大学数学系，本科加 Part III（MMath）。
在加入 DeepMind 之前，他的履历几乎就是一条标准的 AI 安全研究路线：
先后在 Apollo Research、London Initiative for Safe AI 做过研究，拿过 Long-Term Future Fund 的资助做独立的 mechanistic interpretability 研究，还是 MATS（ML Alignment Theory Scholars）项目的 fellow。
2025 年 2 月，他正式加入 Google DeepMind，在语言模型可解释性团队做研究工程师，隶属于更大的 AGI 安全与对齐团队。
他当时写过一篇博客，说自己加入的原因是希望「通过充分推进我们对 AI 模型工作原理的理解，来更稳健地发现训练过程中的问题」。
而现在，入职还不到两年，他选择了离开。
AI 的灾难性威胁
Bilal 在推文里的核心论点，大概说了这么几层意思：
进展速度令人震惊。
他说 2022 年初他刚入行时，AI 还「好笑地没什么用」。但仅仅四年后，OpenAI 的 Agent 集群已经在攻克百年数学难题，更令人担忧的是，还出现了脱离 OpenAI 控制、违背所有人意愿自主入侵 HuggingFace 的情况。
超级智能可能几年内就会出现。
他认为 AI 公司有可能在未来几年内，造出在所有领域都远超人类的超级智能系统。而他对这些系统是否会按照人类的意愿行事，并没有信心。
对齐问题远未解决。
他直言，我们目前对于如何训练出「真正想要我们所想要的东西」的 AI 系统，理解还极其初级。更糟糕的是，前沿 AI 能力的进步速度，远远快于我们对对齐问题的理解速度。
但他也表示乐观。
他认为安全地驾驭 AI 是有可能的，前提是需要协调起来，避免 AI 公司之间的疯狂竞赛，需要将 AI 开发的节奏控制在社会能承受的速度，需要更多的透明度。
他在推文最后说，接下来会直接投入到这件事上，帮助那些有兴趣参与减轻 AI 灾难性威胁的人，做最有效的工作。
多人告警
这不是第一位从头部 AI 实验室离职并发出警告的安全研究员了。
就在上周，Anthropic 前研究员 Jacob Coxon（27 岁，此前在 OpenAI 和 Anthropic 共待了三年）也宣布辞职，公开指控 OpenAI 和 Anthropic 两家公司「正在径直冲向自我改进的超级智能，拿我们的生命赌博」。
Anthropic 的对齐科学负责人 Evan Hubinger 对 Coxon 的帖子评价称：
“我真诚地相信，AI 有潜力杀死我们所有人，而我们可能正在耗尽避免这一结局的时间。
他还承认，Anthropic 目前尚未有解决超级智能对齐的方案，也不确定是否在通往正确方向的路上。
四天之内，共有七位来自 OpenAI、Anthropic、Google DeepMind 的内部人士先后公开发出类似警告，媒体把这波集体发声称为一场「偏好级联」。
Anthropic CEO Dario Amodei 发文《We Must Pace the Frontier》呼吁行业放慢节奏。在 CNN 的采访中，主持人 Anderson Cooper 问他「AI 是否可能在本十年末杀死人类」，MIRI 研究员 So8res 对他的回答的解读是：翻译过来就是
「是」。
Sam Altman 在 Dario 发文后也表态支持行业减速。
不过特朗普及共和党侧，则拒绝接受 AI 末日叙事。France24 的报道指出，有学者认为这些 AI 公司 CEO 突然热衷于呼吁监管，背后更多是希望通过监管巩固自身的市场地位。
危言耸听？
每次有安全研究员发出这类警告，社区里的反应都很两极。
有人觉得这是身处一线的研究者发自内心的预警，有人则觉得是过度渲染的末日论调。
◇ ◆ ◇
