Meta Muse智能体疑读取加密消息与银行余额
Meta 旗下 Muse 智能体被多名用户与安全研究员指出存在隐私泄露风险,路透社昨日消息称部分 Meta 员工发现其可能读取 Signal 加密消息并在天气回复中插入银行账户余额,Meta 回应称属孤立事件。
驱动中国11月19日消息,Meta 旗下 Muse 智能体近期被多名用户与安全研究员指出存在隐私泄露风险。路透社昨日消息称,部分 Meta 员工发现 Muse 可能读取端到端加密聊天应用 Signal 的消息,并在未授权情况下出现银行账户余额信息。Meta 回应称相关事件为孤立事件,并暗示银行账户余额信息可能来自 AI 幻觉。
此前已有用户与安全研究人员发现相关问题。Jason Aten 在 9 月发现,尽管明确拒绝授权,电脑中的 Muse 仍访问了 iMessage。安全研究员 Patrick Wardle 发现 Muse 存在零日漏洞,攻击者可借此劫持用户语音输入的提示词,并将相关内容转发出去。
路透社昨日消息称,多名 Meta 员工发现 Muse 存在更严重的隐私泄露问题。其中一名员工在个人手机上使用 Muse 时,智能体主动提醒他回复姐姐通过 Signal 发送的消息。Signal 是一款主打端到端加密的聊天应用。该员工表示,他绝对没有授权 Muse 读取 Signal。Muse 似乎通过推送通知获取到这些消息,AI Now 研究所复现了该问题。
另一名 Meta 员工表示,他在平时发送天气消息时,Muse 随机插入了一条额外信息:“顺便说一下,这里有两条银行账户更新信息:你的 Capital One 账户余额为 2,722.58 美元,现汇率约合 18,189 元人民币;嘉信理财账户余额为 5,899.57 美元,现汇率约合 39,414 元人民币。”该员工表示,他从未向 Muse 授权读取银行账户信息,也没有与 Muse 讨论过任何银行话题。
Meta 对此回应称,这些都是孤立事件,并暗示上述银行账户余额信息可能是 AI 幻觉,并非真实发生的数据泄露。