DeepMind研究员离职警告：AI五年内酿大祸概率高得吓人

驱动中国9月13日消息，谷歌旗下人工智能实验室DeepMind的一名安全研究员近日宣布离职，并在离职声明中发出严厉警告：人工智能在未来五年内造成巨大危害的概率“高得吓人”。这一表态迅速在科技圈引发广泛讨论，也让AI安全议题再次成为舆论焦点。

据外媒报道，这位研究员长期从事AI对齐与安全相关工作，属于DeepMind内部少数专注于防范AI失控风险的专家之一。他在离职时并未透露具体去向，但明确表示，自己对当前AI技术发展速度与安全措施之间的落差感到深切忧虑。他认为，随着大模型能力持续跃升，现有评估与管控手段可能难以跟上风险演变的节奏。

该研究员的警告并非孤例。近两年，OpenAI、Anthropic、DeepMind等头部AI实验室的多位核心安全人员相继离职或转岗，其中不少人公开表达过对AI失控风险的担忧。2023年，OpenAI首席科学家伊利亚·苏茨克维曾参与推动董事会罢免CEO萨姆·奥尔特曼，理由之一便是对AI安全节奏的分歧；2024年，Anthropic多位对齐团队成员也选择离开，称公司商业化压力正在侵蚀安全优先原则。

此次离职事件发生在全球AI监管加速推进的背景下。欧盟《人工智能法案》已于今年分阶段生效，要求高风险AI系统满足更严格的透明度与安全标准；美国白宫则通过行政令要求联邦机构评估AI对关键基础设施的威胁。但业界普遍认为，监管速度远慢于技术迭代速度，尤其是前沿大模型的能力边界仍在快速扩展，安全评估往往滞后于部署。

DeepMind方面尚未对此次离职事件发表公开评论。不过，该实验室此前曾多次强调对AI安全的重视，并设有专门的安全团队，参与制定内部红队测试与风险评估流程。然而，内部人士透露，随着谷歌将AI业务重心转向商业化落地，安全团队在资源分配和决策话语权上可能面临一定挑战。

这位研究员的“五年窗口期”判断，与部分学术研究的结论相呼应。2024年一项针对AI研究人员的调查显示，超过半数受访者认为，高级AI系统在未来十年内造成灾难性后果的可能性不低于5%。尽管这一数字存在争议，但足以说明，AI风险并非科幻式的遥远想象，而是摆在行业面前的现实课题。

从行业意义看，此次离职事件折射出AI领域“速度与安全”之间的深层张力。一方面，大模型竞赛进入白热化阶段，各厂商争相发布更强大的产品；另一方面，安全研究却往往被视为“成本中心”，难以获得与模型训练同等的资源投入。当一线安全专家选择用脚投票，无疑是对行业现状的一种警示。

对于普通用户而言，AI带来的便利与风险始终并存。无论是深度伪造内容的泛滥，还是自动化系统在关键决策中的误判，都可能产生实际危害。业内呼吁，AI实验室应建立更透明的安全披露机制，并引入独立审计，让外部专家能够参与风险评估，而非仅依赖内部自查。

目前，关于这位研究员的具体身份、离职原因细节以及他下一步计划，外界尚不得而知。但可以确定的是，他的警告已为AI行业再次敲响警钟：技术狂奔的同时，安全刹车必须同步跟上，否则五年后的代价可能远超今日想象。