网络安全标委会发布AI安全治理框架3.0

驱动中国9月14日消息，全国网络安全标准化技术委员会正式对外发布《人工智能安全治理框架 3.0》。该文件在既有版本基础上进行系统性升级，针对当前人工智能技术快速演进过程中出现的新型风险与治理难点，提出了更具操作性的应对路径，为行业组织、企业研发主体及监管机构提供了统一的技术参照与行动指南。

相较于此前版本，框架 3.0 进一步细化了人工智能安全风险的分类维度，覆盖算法设计、数据使用、模型训练、部署应用及运维管理等多个关键环节。文件强调，随着大模型、多模态系统及智能体技术的规模化落地，安全治理不能仅停留在事后补救，而应嵌入产品全生命周期，从源头设计阶段即引入安全评估与风险控制机制。

在风险识别层面，框架 3.0 提出建立动态风险清单与等级划分标准，要求相关主体根据应用场景的敏感程度、影响范围及可恢复性等因素，对人工智能系统实施分级分类管理。对于医疗、金融、交通等关键基础设施领域的人工智能应用，文件明确要求执行更为严格的安全审查与持续监测流程。

针对生成式人工智能带来的内容安全挑战，框架 3.0 专门增设了关于深度合成内容标识、虚假信息治理及算法偏见矫正的条款。文件指出，提供生成式服务的平台应建立完善的内容溯源机制，确保用户能够清晰辨识由人工智能生成的信息，同时需定期开展偏见检测与公平性评估，防止算法决策对特定群体造成系统性歧视。

在责任界定方面，框架 3.0 进一步明确了人工智能产业链上不同参与方的安全责任边界，包括基础模型提供者、应用开发者、云服务运营商及最终用户。文件倡导建立多方协同的治理生态，鼓励通过行业自律、第三方审计及社会监督等多元手段，弥补单一主体在技术能力与资源投入上的局限性。

此外，框架 3.0 还关注到人工智能安全与数据安全、个人信息保护之间的交叉关联，强调在模型训练与推理过程中须严格遵守相关法律法规，对涉及个人敏感信息的处理行为实施最小化原则与脱敏处理。文件建议企业建立内部数据安全管理制度，并定期开展员工安全培训与应急演练。

业内分析人士认为，该框架的发布标志着我国人工智能安全治理从原则性倡导向标准化落地迈出重要一步。随着人工智能技术在千行百业中的渗透率持续提升，统一的治理框架有助于降低合规成本，提升安全基线水平，同时为国际间的人工智能治理对话提供了来自中国的实践样本。

全国网络安全标准化技术委员会表示，后续将围绕框架 3.0 组织系列宣贯活动，并推动相关配套标准与评测工具的研制工作，以促进框架内容在产业界的广泛采用与持续迭代。相关企业及研究机构亦可依据该文件，对自身人工智能产品与服务开展对照自查，及时补齐安全短板。