辛顿联署公开信：AI 实验室须保障第三方评估独立性

驱动中国9月18日消息，据《商业内幕》报道，由多家监督组织组成的 AI 评估机构论坛发布了一封公开信，为第三方风险评估划出一套最低条件，认为 Anthropic 和 OpenAI 等 AI 实验室只有满足特定的要求，才能与外部评估机构开展更有效的合作。

公开信获得数十名 AI 领域人士联署，包括“AI 教父”计算机科学先驱杰弗里 · 辛顿和斯图尔特 · 罗素。

本周，网络上对 AI 风险的担忧迅速升温。Anthropic CEO 达里奥 · 阿莫迪和 OpenAI CEO 萨姆 · 奥尔特曼此前都承诺向第三方评估人员开放公司内部资源并评估 AI 风险，获得与员工同等级别的信息访问权限。AI 评估机构论坛的公开信正是对此作出回应。

论坛认为，要具备公信力，驻场第三方评估人员必须保持科学客观性、透明度和独立性，并得到充分保护，免受被评估企业干预。

第三方评估人员不仅应获准公开透明地开展工作，还应能够直接与公司董事会及其他拥有特殊监督权限的机构沟通，不受企业过滤或限制，并有权公开发布评估结果。

这些评估人员还应受到保护，避免因评估工作遭到 AI 实验室报复，同时获得与企业内部评估人员相同的系统、数据、工具和实体场所访问权限。

公开信还主张，每家 AI 实验室都应引入观点和专业背景不同的评估人员，以覆盖生物科学风险、AI 失控风险等多种风险领域。

本周早些时候，其他科技行业领袖也加入了这场讨论。微软 CEO 萨提亚 · 纳德拉称，公司欢迎让第三方评估人员直接进驻 AI 企业开展评估的构想。