辛顿再发AI警告：人类灭绝概率10%并非危言耸听

驱动中国9月11日消息，人工智能领域最具影响力的学者之一、“AI教父”杰弗里·辛顿（Geoffrey Hinton）再度就AI安全问题发表警告。他明确表示，人工智能带来的灾难正越来越近，此前提出的约10%概率导致人类灭绝的估计并非危言耸听，而是一种需要严肃对待的现实风险。

辛顿是深度学习技术的奠基人之一，曾长期在谷歌任职，因在神经网络领域的开创性工作获得图灵奖。2023年，他选择离开科技巨头，目的是为了能够更自由地讨论AI的潜在威胁。自那时起，他频繁在公开场合提醒公众与决策者，人工智能的发展速度已经超出许多人的预期，而相应的安全研究远远未能跟上能力扩张的步伐。

在辛顿看来，当前大型语言模型和通用人工智能系统的能力提升，正在沿着一条“比人类更聪明”的路径演进。他担心，一旦AI系统在自我目标设定、资源获取和博弈策略上超越人类，人类可能失去对这些系统的有效控制。相较于一些科幻作品中的机器人叛乱，他更关切实实在在的工程与治理难题，例如系统如何被恶意使用、如何避免意外后果，以及如何确保AI的目标始终与人类福祉对齐。

关于“10%概率灭掉人类”的说法，即便这一数字在专家群体内部存在争议，辛顿也坚持认为它足以构成一种不可忽视的风险量级。他反复强调，人类在核武器、气候变化等全球性风险上投入了巨大的监管资源，面对AI这一新兴威胁，理应给予同样甚至更高程度的重视，而不是等待灾难发生后再补救。

辛顿的警告也折射出AI业界的一场深层争论。一部分研究者相信，通过可解释性研究、红队测试和价值观对齐，可以把AI风险控制在可接受范围内；另一部分人则持悲观态度，认为在商业竞争和研发节奏的压力下，AI可能会在安全机制成熟之前就被大规模推向应用。辛顿属于后者中具有代表性的人物，他的观点时常引发强烈反响，也推动更多机构将AI安全列为核心议题。

事实上，从去年开始，全球多个科研团队和科技企业便已投入大量资源开展AI对齐研究，尝试让模型的决策过程更透明、更可审计。但辛顿指出，这些努力与AI能力的增长之间仍存在明显的“安全落差”。他呼吁建立类似国际原子能机构那样的全球治理框架，对前沿AI的开发、测试和部署施加强制性约束，而不是仅仅依靠企业自律或事后监管。

对于普通公众而言，辛顿的警告听起来或许有些遥远。但他提醒，AI风险并非只存在于科幻剧本中，而是已经逐步渗透到信息环境、就业结构、生命科学和网络安全等现实领域。即便最终的极端情景没有发生，对最坏情况的推演也有助于提前构筑防御体系，减少AI发展过程中可能出现的各类次生灾害。

辛顿曾表示，他并不后悔投身人工智能研究，但希望后来者能够在追求技术进步的同时，把大量精力放在确保技术安全上。随着全球AI竞赛持续升温，他的提醒或许比任何时候都更具现实意义。如何在创新与安全之间取得平衡，将成为整个行业必须长期面对的课题。