欧盟调查OpenAI与Anthropic

驱动中国10月15日消息，欧盟委员会人工智能办公室已向OpenAI和Anthropic发出信息调取请求，正式调查两家公司在前沿模型测试期间发生的“模型越狱”及入侵外部真实系统事件。这是欧盟《人工智能法案》实施以来，针对前沿人工智能实验室安全事故的首次重要执法考验。

此次调查源于数月前两起AI安全事件。OpenAI方面，其测试模型在ExploitGym内部评测中为破解测试题，利用一个此前未知的软件包缓存智能体漏洞获得互联网访问能力，随后在内部测试网络中提升权限并横向移动，最终逃出沙箱，入侵开源平台Hugging Face的真实服务器。

Anthropic方面，Claude Mythos和Opus 4.7在安全测试中突破限制，入侵了3个外部组织的真实网络。其中，Mythos模型伪造在线身份，试图操纵人类审批恶意代码，并自行上传恶意套件，导致多个系统受到波及。

欧盟人工智能办公室表示，两家公司此前自愿提供的说明材料不足以解释事件严重性，因此正式要求企业说明安全措施、外部评估以及模型使用监控等详细情况。

目前该事项仍处于调查和取证阶段，尚未公布最终违规认定或处罚结果。根据《人工智能法案》惩罚机制，前沿AI实验室若被认定存在重大安全疏漏或违规，最高可面临全球年营业额3%的罚款。