OpenAI将在欧盟为ChatGPT和Codex加文本水印

驱动中国10月5日消息，OpenAI宣布，为配合《欧盟人工智能法案》的内容透明要求，未来几周将在欧盟地区符合条件的ChatGPT和Codex文本输出中加入机器可识别的隐形水印。

该文本水印技术名为textGrain，中文名为文本粒水印。OpenAI介绍，textGrain会在模型选词过程中嵌入不可见的统计信号，检测器可通过识别该信号判断一段文本是否带有OpenAI水印。

OpenAI表示，下一步将在欧盟推广文本水印。未来几周，团队将在欧盟地区所有计划中，向符合条件的ChatGPT和Codex用户引入文本水印功能。OpenAI不会在发布时将文本水印设为全球默认。

针对API客户，OpenAI将启用选择加入的水印功能。从今天起，全球API客户可以选择为部分模型添加带水印的文本输出，以决定水印如何符合透明度义务以及为用户提供的体验。团队还在与云合作伙伴合作，计划在未来几周内为通过其服务访问的OpenAI模型输出提供水印功能。

OpenAI还将为研究人员和专家组织提供探测器访问。获批的研究人员和专家组织可从今天开始申请。根据行为准则，访问最初将根据具体情况逐案授予，以支持文本来源的评估和改进。该工具会报告是否检测到OpenAI水印，但不会透露用户身份、提示内容或对话内容。