四大AI谈风险：滥用比杀手机器人更现实

驱动中国9月11日消息，ChatGPT、Claude、Gemini 与 Grok 四款主流 AI 助手近日罕见地就同一议题给出回答：AI 带来的最大风险并非科幻电影中《终结者》式自主杀手机器人，而是人类对技术的滥用，以及由此加剧的生物武器与网络攻击威胁。四款模型在风险排序上高度一致，凸显出 AI 行业对安全议题的认知正在从“机器失控”转向“人的恶意使用”。

当被问及“人类面临的最大 AI 风险是什么”时，ChatGPT 与 Claude 均将“恶意滥用”列为首要威胁。ChatGPT 指出，深度伪造、大规模虚假信息、自动化诈骗等滥用场景比机器自主意识更早、更广泛地影响社会；Claude 则强调，AI 工具被恐怖分子或极端组织利用来策划袭击、制造化学或生物制剂的风险，远高于机器自行产生敌意。两者都认为，技术本身是中性的，危险在于掌握技术的人如何施加意图。

Gemini 与 Grok 的答案同样将“滥用”置于“失控”之前。Gemini 从能力扩散的角度分析，认为基因编辑、蛋白质结构预测等科研工具一旦被非专业人士误用，可能降低生物武器的制造门槛；Grok 则更直接地警告，AI 驱动的网络攻击、自动化钓鱼和社会工程攻击正在成为现实威胁，而这类攻击不需要 AI 拥有自我意识就能造成巨大破坏。四款模型都不约而同地淡化了“超级智能叛变”的叙事。

在具体的威胁排序中，生物武器与网络攻击被反复提及。AI 在蛋白质折叠、药物研发、基因序列分析等领域的突破，客观上让生物制剂的合成与筛选变得更加高效，这既推动了医学进步，也压缩了恶意分子掌握相关技术所需的知识与资源门槛。网络攻击层面，AI 可被用于自动发现漏洞、编写恶意代码、生成高度拟真的钓鱼文本，使攻击规模与效率呈指数级上升。

值得注意的是，四款模型对“杀手机器人”话题的态度颇为一致：自主武器系统固然值得警惕，但它在短期内并非最紧迫的风险。现实中的军事 AI 仍处于“人在回路”的监督框架下，且自主武器面临国际法与伦理的巨大约束；相比之下，深度伪造影响选举、AI 诈骗劫持舆论、生物信息被滥用制造新型威胁，这些正在发生或即将发生的问题，更需要政策制定者与科技公司优先应对。

此次四款模型“同题问答”本身也折射出行业的一种自我审视。作为被广泛使用的 AI 产品，它们对自身风险的复盘具备一定参考价值，但也有批评者指出，模型给出的答案经过了对齐训练的安全话术筛选，未必能完整反映其底层系统的真实风险。将 AI 风险归因于“人类滥用”，一定程度上也减轻了模型提供商在算法设计、数据采集、部署方式上的责任。

行业层面的共识正在形成：AI 治理的核心不应只围绕“机器是否会失控”，而应更多关注“谁在使用、如何监管、责任如何分配”。欧盟《人工智能法案》已按风险等级对 AI 应用进行分层监管，美国、中国等主要经济体也在推动深度合成内容标识、生物安全审查等具体规则。四款 AI 的回答虽只是产品层面的一次输出，却提示了一个治理方向——防滥用比防叛变更迫切，也更具可操作性。

对于普通用户而言，这组回答同样具有警示意义。刷脸换声的深度伪造、以假乱真的诈骗话术、被 AI 放大的网络攻击，都不是遥远的科幻情节，而是近在眼前的数字生存挑战。正如四款模型所暗示的，AI 时代的核心安全命题，或许从来不是机器取代人类，而是人类如何约束自己的创造物，以及如何使用它。