OpenAI三名安全研究员否认泄密质疑解雇理由

AI 驱动中国 许棠 1,376次阅读
分享 微 Q 信
AI摘要
由 AI 生成 · 仅供参考

OpenAI三名被解雇安全研究员托梅克·科尔巴克、米基塔·巴莱斯尼与王茉莉否认泄露机密信息,质疑公司解雇理由,认为事件与其倡导AI透明度有关;OpenAI称解雇与安全顾虑无关,争议牵出模型思维链可核查与外部审计问题。

驱动中国10月25日消息,OpenAI三名安全研究员托梅克·科尔巴克、米基塔·巴莱斯尼与王茉莉否认存在泄露机密信息行为,并对公司给出的解雇理由提出质疑。三人认为,相关处理与其长期推动AI系统透明度存在关联。OpenAI则向《华尔街日报》表示,解雇决定与研究员提出的安全顾虑无关。

OpenAI经内部调查认定三人违反敏感信息管理规定并予以辞退。三人在被解雇前曾公开讨论AI风险。接受《华尔街日报》采访时,三人称公司未以书面形式说明哪些信息被不当处理,并担心该事件会降低独立安全审计人员与AI企业合作意愿。

《华尔街日报》还原的冲突过程显示,OpenAI安全团队怀疑三人向一名外部安全研究员泄露公司内部模型架构细节,并要求其解锁个人手机。调查人员在手机中发现开启阅后即焚功能的Signal聊天记录。一周后,三人同时被解雇。OpenAI表示Signal并非公司认可的通讯工具,但强调这不是解雇理由。科尔巴克认为,阅后即焚消息在硅谷属于常规安全做法。

争议焦点在于AI企业是否应允许外部人员查看模型思考过程。推理型模型会在内部“思维链”暂存区记录解题中间步骤,企业和安全研究员依赖这些记录理解模型判断逻辑。2025年的一篇论文中,巴莱斯尼、科尔巴克、王茉莉联合多家AI实验室的顶尖研究者,呼吁持续保留这项可核查能力。

今年夏天,这一议题变得更加紧迫。多家AI公司内部开始讨论一类新模型,其思考时间更长,但记录的中间步骤更少。巴莱斯尼在公司内部提出异议,并转发当时红杉研究院首席科学家瑞安·格林布拉特的相关提案。科尔巴克也与格林布拉特频繁沟通,二人通过Slack和Signal协作,共同分析OpenAI智能体攻击Hugging Face事件。格林布拉特受METR委托负责该项独立调查。

9月1日,The Information刊发报道,称OpenAI新模型Astra能力更强,但暴露出的推理过程更少。上述合作成为引发麻烦的导火索。当时OpenAI首席科学家雅各布·帕霍茨基在X平台评价该报道逻辑混乱,但他此前曾警示,整个行业正在竞相研发难以监控的模型。

《华尔街日报》称,几周后OpenAI启动内部泄密调查。巴莱斯尼表示,调查人员认定格林布拉特是消息外泄接收方,并要求调取二人之间的Signal聊天记录。格林布拉特否认向《华尔街日报》传递过机密信息。

针对王茉莉的指控单独成立。OpenAI称她多次访问一名高管邮箱。王茉莉解释,自己近一年前已申请取消该权限,上个月只是误点开一封敏感邮件,未转发或传播内容,并第一时间上报失误。OpenAI表示,权限本身不是问题所在。

科尔巴克认为,事件影响不止于三人。他表示,同事目前不敢与外部人员交流,也不敢在内部提出安全隐患。三名研究员已致信OpenAI董事会,呼吁加强与外部安全机构合作。一份刚发布的现场审计报告也对OpenAI安全流程提出质疑,METR与红杉研究院审计人员参与了相关核查。

版权声明:本文由驱动中国整理发布,转载需注明出处与原文链接。如有疑问请联系 editor@qudong.com。
来源:驱动中国 · 原文链接:https://www.qudong.com/article/527314.html
本文价值 ★★★★★ 3.5 4 人已评
登录后为本文打分
网友评论0 条评论
正在回复 的评论取消
评论加载中…
🔐

登录后参与互动

评论、点赞均可赚积分
连续签到、邀请好友也有奖励 🎁

电脑端: 微信扫码登录 微信内: 一键登录

微信扫一扫

打开微信「扫一扫」,分享本文到朋友圈或好友