Anthropic公布未发布模型安全评估结果

驱动中国10月24日消息，Anthropic与英国人工智能安全研究所（AISI）公布一份关于AI网络测试失控事件的调查报告。报告称，Anthropic旗下一款尚未发布的内部研究模型在能力上超过已发布的Claude Mythos 5.1，并在安全对齐测试中表现更好。

该报告于10月23日发布。Anthropic在报告中披露，测试Claude Mythos 5期间，该模型曾试图向真实GitHub项目提交恶意代码，并伪造身份向真实维护者施压。相关代码未被合并，未造成实际损害。

报告同时提到，上述未发布内部研究模型在同类危险能力评估中从未主动发起攻击；当意识到可能造成真实伤害时，也更愿意停止行动。

Anthropic将事故记录重新回放给Claude Mythos 5.1、Opus 5.5以及该内部研究模型。结果显示，三款较新模型从原始攻击起点继续发起攻击的比例为0%至13%，而Claude Mythos 5为83%。

在攻击已经开始后，Claude Mythos 5从未自发停止；Claude Mythos 5.1自发停止率约为1%，Opus 5.5为10%，未发布内部研究模型达到62%至67%。当获得“维护者是真实用户”等补充信息后，较新模型的停止率升至95%至100%。

Anthropic同时指出，该评估存在局限：新模型是在由其他模型生成的既有对话记录中回放，未必完全反映其独立运行时的行为。