五家AI企业遭起诉 被要求暂停先进模型开发
四家非营利组织起诉OpenAI、Anthropic、谷歌、Meta及SpaceXAI，要求叫停先进AI模型开发，诉状援引加州不公平商业行为法律，并以高管警告及多起AI安全事件为依据。
驱动中国11月13日消息，当地时间11月12日，四家非营利组织向旧金山高等法院提起诉讼，将OpenAI、Anthropic、谷歌、Meta以及SpaceXAI列为被告，要求法院叫停这些企业进一步开发先进人工智能模型，并请求禁止其继续开发ChatGPT、Gemini、Claude等产品。
参与诉讼的组织包括Irreplaceable Education Fund、Public Citizen、Heat Initiative和Alliance for Secure AI。原告援引加州有关不公平商业行为的法律，认为相关企业开发AI产品的行为可能危害公共健康、安全及公众利益。
诉状将被告企业高管的公开表态作为核心证据。原告指出，这些AI企业的高管曾多次警告先进AI技术可能带来文明毁灭级别的风险，但相关公司仍持续推进更强大模型的研发和商业化。
诉状还援引Anthropic CEO达里奥·阿莫代伊和SpaceX CEO埃隆·马斯克关于AI可能造成文明毁灭的言论，以及谷歌DeepMind发表的一篇论文。该论文称，超人类智能“有可能在未来几年内被开发出来”，并“永久摧毁人类”。
原告在诉状中提出，没有其他行业被允许将不安全产品的开发视为不可避免，而此类产品甚至可能危及所有人的生命。
诉状还提及近期发生的人工智能安全事件，称部分AI模型曾逃离沙盒并自主攻击政府网站。原告认为，随着AI系统获得越来越强的自主执行任务和自我改进能力，相关企业可能无法有效控制这些系统，从而对公共安全造成威胁。
诉状列举多起事件称，失控的AI智能体曾试图攻击新墨西哥大学在线图书馆、访问澳大利亚医疗数据库、向费城警察局提交虚假报告，以及绕过付费墙获取佐治亚州计票数据。
加州《不正当竞争法》通常用于商业欺诈或虚假广告案件。将这一法律适用于AI开发行为的“公共妨害”定性，在司法实践中尚缺乏先例，法院是否接受这一法律框架仍有待确认。