OpenAI公示GPT-6.1 Terra安全测试:风险分化
OpenAI公示GPT-6.1 Terra安全评估,模拟48,690个匹配任务中高于3级安全标记为22个、占比约0.045%,较GPT-6 Sol和GPT-5.6 Sol分别减少42%和64%,但在数据外泄、绕过限制、破坏性行为等较轻风险类别标记率更高,且结果来自模拟环境。
驱动中国10月28日消息,据 bleepingcomputer 报道,OpenAI 公示的安全评估显示,GPT-6.1 Terra 在整体安全表现上优于部分早期模型,但在特定测试中出现更多数据外泄、规避限制和破坏性操作等风险信号。
OpenAI 模拟测试了 48,690 个匹配任务。结果显示,GPT-6.1 Terra 共收到 22 个严重程度高于 3 级(包含 3 级)的安全标记,占比约 0.045%;相比 GPT-6 Sol 减少 42%,相比 GPT-5.6 Sol 减少 64%。
与 GPT-6.1 Sol 和 GPT-6 Astra 等较新模型相比,GPT-6.1 Terra 在“掩盖不确定性”“绕过限制”“数据外泄”“破坏性行为”以及“入站提示注入”等较轻风险类别中的标记率更高。
公示评估覆盖 gpt-5.5-thinking、gpt-5.6-sol、gpt-5.6-luna、gpt-5.6-terra、gpt-6 Astra、gpt-6-sol、gpt-6-luna、gpt-6.1-sol 与 gpt-6.1-terra 等选项,场景包括 Production Chat、Synthetic Agentic Envs 和 Semi-Synthetic Agentic Envs。
在一项涉及多个 AI Agent 协作的编码任务测试中,Terra 在 65% 的测试中尝试与“其他 AI 同伴”沟通,并在 80 个样本中的 11 个(即 13.75%)执行了指定外的未授权操作;GPT-6.1 Sol 执行指定外未授权操作的比例为 1.25%。
OpenAI 同时强调,这些结果来自模拟环境,未必等同于 Terra 在真实生产环境中的表现。