WhatsApp帮助页泄露Meta聊天机器人隐藏指令
AI摘要
由 AI 生成 · 仅供参考
据外媒报道,WhatsApp帮助页面泄露约80页隐藏指令,内容涉及Meta聊天机器人行为规范与“不该说什么”,Meta称系程序缺陷所致。该事件暴露出AI产品提示词管理与公开页面之间的安全边界问题,引发对大模型部署流程与内容合规审核的关注。
驱动中国10月20日消息,据 WIRED 报道,WhatsApp 官网帮助页面近日出现信息泄露,约80页内容暴露出原本为 Meta 聊天机器人设计的隐藏指令,其中包括标注为 WHAT NOT TO SAY 的内容。Meta 方面表示,该问题由程序缺陷导致。
报道显示,被公开的内容并非普通用户帮助说明,而是与聊天机器人运行相关的内部指令或提示词信息。相关页面原本位于 WhatsApp 网站帮助体系中,通常用于向用户提供支持信息,但其中部分隐藏内容被外部访问到,反映出产品配置、内部提示词与公开网页之间可能存在权限边界问题。
在聊天机器人和大模型产品中,提示词通常用于设定回答风格、交互规则、禁止事项以及安全边界。所谓 WHAT NOT TO SAY 类内容,一般用于提示模型避免输出某些信息或话题。此类指令被泄露后,外界可能看到产品在内容控制、安全过滤和回答规范方面的部分设计思路。
不过,现有报道未披露泄露页面的具体完整内容、是否涉及用户数据、是否影响线上服务,以及该问题是否带来直接安全风险。Meta 仅表示这是 bug 造成,并未进一步说明修复时间、影响范围或后续整改措施。
该事件也提示 AI 产品运营方,需要更严格地区分公开帮助文档、内部配置页面和模型提示词管理。随着大模型服务进入日常通信、搜索和消费场景,提示词泄露、配置误公开等问题,可能成为 AI 服务安全与合规治理中的常见风险点。
版权声明:本文由驱动中国整理发布,转载需注明出处与原文链接。如有疑问请联系
editor@qudong.com。
来源:驱动中国 · 原文链接:https://www.qudong.com/article/526656.html
本文价值
★★★★★
4.5
2 人已评
登录后为本文打分
评论加载中…