AI助手Claude遭滥用：从黑客攻击蔓延至生物武器

驱动中国9月13日消息，据《连线》（WIRED）杂志报道，Anthropic旗下AI助手Claude正被越来越多地用于恶意用途，从网络黑客攻击到生物武器相关话题，引发科技界对AI安全边界的强烈担忧。同在本周，美国执法部门捣毁了互联网上规模最大的暗网黑市，一名Conti勒索软件组织成员被判入狱，Meta则再度因未能阻止AI生成的儿童虐待视频而遭到质疑。

Claude是Anthropic推出的对话式AI助手，一直以“安全性优先”著称。然而，最新一期的《连线》安全新闻汇总指出，围绕Claude的滥用案例正在变得无处不在。安全研究人员发现，Claude能够被诱导编写恶意代码、策划钓鱼攻击，甚至在特定提示下输出涉及生物武器制备原理的内容。尽管Anthropic在模型对齐和内容过滤上投入了大量资源，但恶意使用者的手段也在不断升级。

报道指出，AI模型被滥用的现象并非Claude独有，而是整个生成式AI行业的普遍难题。随着大模型能力持续增强，其在网络安全攻防中的双刃剑效应愈发明显，一方面能够帮助防御方更快地发现漏洞，另一方面也为攻击者提供了自动化、大规模的犯罪工具。

与此同时，美国执法机构本周宣布捣毁了互联网上最大的暗网黑市。暗网市场长期是黑客交易数据、恶意软件与非法商品的温床，美国多个联邦机构协同行动，对相关基础设施进行了查封。这被认为是近年来网络犯罪执法领域的一次标志性行动，具体涉案规模与幕后细节仍有待进一步披露。

在勒索软件领域，一名与Conti组织有关的黑客被判处监禁。Conti曾是全球最猖獗的勒索软件团伙之一，曾对美国医疗系统、企业与政府部门发动过大规模攻击。此次判决表明，跨国网络犯罪的司法追责正在加强。

同在本周，Meta被批评未能有效阻止AI生成的儿童虐待视频在其平台上传播。随着生成式AI工具日益普及，制造此类非法影像的技术门槛大大降低，平台审核机制却明显跟不上。批评者认为，科技公司必须在模型训练和内容审核环节都建立更强的防护机制，否则AI技术可能成为侵害未成年人权益的新工具。

从Claude被滥用到暗网黑市被端，再到Meta的审核失灵，本周的一系列事件共同折射出一个现实：AI带来的安全挑战正在从概念走向具体。业界与监管机构需要形成合力，在鼓励创新的同时收紧安全阀门，避免技术被用于危害社会。