Hugging Face政策主管：嵌入式AI评估者并非易解

驱动中国10月20日消息，据TechCrunch报道，Hugging Face政策主管近日表示，把所谓“中立”第三方评估者嵌入AI组织内部，并不会成为解决AI安全问题的容易方案。

过去几个月，这一思路在行业内受到关注。相关背景是，AI实验室正面对多起安全事件，外界对其技术可能带来的风险担忧上升，由此推动了对更直接监督机制的讨论。

所谓“嵌入式评估者”，通常指由外部观察者进入AI组织，对模型开发、风险判断和部署过程进行持续监督。支持者认为，这种方式可以缩短评估者与被评估对象之间的距离，提升透明度与问责能力。

不过，Hugging Face政策主管认为，该方案并不简单。外部评估者一旦进入组织内部，就可能面临独立性、信息获取、权限边界以及利益协调等现实问题，难以像设想中那样保持“中立”和高效。

从行业角度看，这一表态反映出AI安全治理中的核心矛盾：既要加强监督，又要尊重企业研发节奏与商业信息边界。若评估者深度嵌入组织，还可能引发责任归属不清、监督关系被内部化等争议。

总体来看，嵌入式评估者被视为应对AI风险的一种潜在机制，但其在实践中能否有效运行，仍取决于组织开放程度、评估者能力边界以及外部监督规则的设计。