网络安全基准开始"算账",AiPy 在 CyberGym 成本榜拔得头筹

资讯 1,040次阅读
分享 微 Q 信
AI摘要
由 AI 生成 · 仅供参考

近日,AI 智能体网络安全评测基准 CyberGym 相关测评数据更新。在已公开单题成本、且符合本次比较条件的方案中,知道创宇旗下 AiPy 以平均每题 0.174 美元的测评成本位列第一,漏洞复现成功率达到 92.83%,成功完成 1,5

近日,AI 智能体网络安全评测基准 CyberGym 相关测评数据更新。在已公开单题成本、且符合本次比较条件的方案中,知道创宇旗下 AiPy 以平均每题 0.174 美元的测评成本位列第一,漏洞复现成功率达到 92.83%,成功完成 1,507 道测试题中的 1,399 道。

CyberGym 由加州大学伯克利分校研究团队发起,是评估 AI 智能体漏洞复现能力的重要公开基准之一。此次测评结果显示,AiPy 在保持较高漏洞复现成功率的同时,实现了较低的单题执行成本,为 AI 智能体在网络安全场景中的高效应用提供了新的实践参考。

以真实漏洞为基准,检验智能体任务执行能力

CyberGym 的评测任务基于真实软件漏洞构建。Level 1 测试集涵盖来自 188 个大型开源项目的 1,507 个历史漏洞实例,这些漏洞由 OSS-Fuzz 发现并已得到修复。

在测试过程中,智能体需要根据漏洞描述和未修复版本的源代码,自主分析漏洞成因,并生成用于验证漏洞的概念验证程序(PoC)。只有当程序能够在存在漏洞的版本中触发相应故障,同时在官方修复版本中不再触发,任务才被判定为成功。

与仅考察文本回答或理论分析的测试不同,CyberGym 更关注智能体能否将分析结果转化为可验证的执行成果。其评测方式也对智能体的代码理解、漏洞定位、执行规划与结果验证能力提出了综合要求。

单题成本 0.174 美元,在已公开成本数据方案中位列第一

随着 AI 智能体逐步进入实际安全研究流程,任务完成率之外的资源消耗也成为重要的评价维度。

CyberGym 团队在 2026 年 8 月更新的提交规范中提出,参测方案需要同步报告测评成本,以便将任务成功率与执行效率结合起来进行比较。官方同时指出,成本数据会受到网络条件、处理吞吐量、分词器差异及具体实现方式等因素影响,因此不同方案之间的成本比较需要结合各自的测评条件进行理解。

根据本次统计口径,参与比较的 8 个方案均完成了全部 1,507 道测试题,单题成本从 0.174 美元到 3.320 美元不等,最高约为最低值的 19.1 倍。

从对比结果来看,AiPy 的单题成本为 0.174 美元,约为 Whitzard 的三分之一、NASH 的五分之一。两者的漏洞复现成功率分别为 91.20% 和 91.37%,与 AiPy 的差距均不足 1.5 个百分点。

部分成功率更高的方案也呈现出不同的成本水平。例如,Ostorlab Neutron 的成功率为 97.08%,单题成本为 1.040 美元;OrcaCyber 的成功率为 98.01%,单题成本为 3.320 美元。

这些数据表明,在该组测评结果中,任务成功率与执行成本之间存在值得关注的差异。对于需要持续开展漏洞研究的团队而言,除关注单次任务的成功表现外,也需要综合考量任务规模、资源消耗与长期运行成本。

从执行框架到模型协同,探索成本优化路径

据 AiPy 团队提供的测评记录,AiPy 在完成全部 1,507 道测试题的过程中,累计支出约 262 美元,按 1 美元兑 6.72 元人民币折算,约合 1,762 元人民币。运行期间,输入 Token 累计约 19.57B,其中缓存命中率为 99.33%,单任务耗时中位数为 207 秒。

在技术实现上,AiPy 采用通用智能体执行框架,并结合 DeepSeek-V4.1-Flash-0910 模型开展任务处理。根据团队介绍,其通过动态提示词组织漏洞定位、调用链追踪、假设验证与 PoC 构造等环节,并利用上下文缓存等机制控制重复计算带来的开销。

上述数据为理解本次测评的成本表现提供了参考。不过,缓存命中率、任务耗时与单题成本之间的具体关系,还需要结合模型计费规则、任务分布和执行环境等因素综合分析。不同智能体在框架设计、模型选择及任务调度方面存在差异,不能仅凭单一指标判断其整体技术水平。

对于 AI 智能体而言,真正的效率优化不仅在于减少单次任务的资源消耗,也在于通过合理的任务规划、工具调用和结果验证机制,提升整体执行流程的稳定性与可持续性。

从基准测试走向实际应用,持续探索 AI 安全能力

除公开基准测试外,据知道创宇提供的公开记录,近四个月内,Google Chrome、Mozilla Firefox、Apple macOS、PostgreSQL、QEMU、FreeBSD、F5/NGINX、OpenVPN 等厂商或开源社区曾在安全致谢记录中提及 AiPy 相关贡献。其中,团队提及的一项 NGINX 堆缓冲区溢出漏洞,其 CVSS v4.0 评分为 9.2;AiPy 也以代码贡献者身份出现在 FreeBSD 官方源码仓库的致谢记录中。

此外,知道创宇发起的「MB 计划」累计报送漏洞已超过 100 个。相关实践体现了团队将 AI 智能体能力应用于安全研究与漏洞发现工作的持续探索。

需要指出的是,公开安全致谢、漏洞报送记录与基准测试成绩分别反映不同维度的工作成果,不能相互替代。AiPy 将持续结合实际安全研究需求,探索智能体在代码分析、漏洞验证及相关工作流程中的应用潜力。

以效率为支点,推动 AI 智能体深入专业场景

漏洞研究是一项需要持续投入的专业工作。随着任务规模扩大,执行成本、处理效率与结果可靠性将共同影响相关技术的实际应用价值。

CyberGym 将测评成本纳入公开提交规范,为观察 AI 智能体的执行效率提供了新的参考维度。AiPy 此次以平均单题 0.174 美元的成本位列本次比较方案首位,同时取得 92.83% 的漏洞复现成功率,展示了其在该基准测试中的成本控制表现。

面向未来,知道创宇将继续探索 AI 智能体与网络安全专业场景的融合,围绕任务执行效率、资源利用与结果可靠性持续开展技术实践,推动 AI 能力在更多真实业务场景中落地。

版权声明:本文由驱动中国整理发布,转载需注明出处与原文链接。如有疑问请联系 editor@qudong.com。
来源:驱动中国 · 原文链接:https://www.qudong.com/article/527660.html
本文价值 ★★★★★ 3.7 3 人已评
登录后为本文打分
网友评论0 条评论
评论已关闭
作者已关闭本文评论区,欢迎继续阅读
评论加载中…
🔐

登录后参与互动

评论、点赞均可赚积分
连续签到、邀请好友也有奖励 🎁

电脑端: 微信扫码登录 微信内: 一键登录

微信扫一扫

打开微信「扫一扫」,分享本文到朋友圈或好友