ChatGPT 文本要加隐形水印:欧盟先行,改写后可能失效
【导语】OpenAI 给 chatGPT 和 Codex 的文本输出加了隐形水印,欧盟用户先赶上。这篇讲清它怎么做的、什么时候会遇到,以及改写一遍还灵不灵。
欧盟先上,界面里看不出变化
10 月 5 日,OpenAI 公布了一项针对文本输出的调整:未来几周,欧盟地区符合条件的 ChatGPT 和 Codex 用户,拿到的回答会带上机器可识别的隐形水印,用来配合《欧盟人工智能法案》对 AI 生成内容可识别的要求。
这次不是全球一刀切。OpenAI 说明,发布时不会把水印设为全球默认,覆盖范围先落在欧盟所有计划里符合条件的用户。你在网页或客户端看不到任何提示,文字也不会多出符号,读起来和以前一样。
textGrain 的做法:不塞字符,改选词
技术名称叫 textGrain,可以译成文本粒水印。它的实现方式和多数人的想象不同:不加隐藏字符,不加不可见空格,也不动标点。
做法是在模型生成的过程中改变词语的选择倾向,让整段文字带上一种统计特征。单看一句话看不出来,把文本交给检测器,它读的是这种特征,据此判断内容是否出自 OpenAI 的模型。
为什么不直接塞零宽字符?那类字符在复制、粘贴、过一遍编辑器的过程中容易丢失,清理掉也不难。把信号藏在选词习惯里,稳定性更好,也更难被肉眼发现。
API 客户自己决定,研究人员可以申请检测器
对开发者,OpenAI 把开关交了出去。从 10 月 5 日起,全球 API 客户可以自行选择为部分模型加上水印输出,用来对应各自的透明度义务。
云合作伙伴会在未来几周跟进,让通过它们服务调用的 OpenAI 模型输出也能带水印。
另一条线是检测能力。研究人员和专家组织从同一天起可以申请探测器访问,按行为准则逐案审批。检测器只回答一个问题:这段文本里有没有 OpenAI 的水印。它不透露用户身份,也不给出提示词或对话内容。
改一改还认得出吗
统计式水印有个天生的弱点,怕改写。把一段带水印的文字翻译一遍、重新组织句子、大幅增删,原本的选词特征会被稀释。cnBeta 的报道在标题里就点出了这个风险——改写后可能失效。
OpenAI 目前没有公布水印在改写场景下的保留率,具体有多强要等第三方实测。比较确定的是:拿带水印的输出改写之后,水印大概率会变弱;指望轻度改写就把它彻底抹掉,也没有把握。
对普通人的三点影响
把常见场景分开看,影响其实很集中。
- 日常问答、写邮件、整理笔记:基本无感,输出内容没变,界面里也看不到标记。
- 做内容的:AI 辅助生成的段落如果直接发到欧盟平台,未来可能被自动识别出来,人工改写和润色的价值会更高。
- 在意隐私的:水印标记的是「这段文字来自 OpenAI 模型」这件事,不含你的账号、提示词和聊天记录。
现在能做的三件事
- 开发者在 API 后台确认一下,面向欧盟用户的产品是否需要开启水印输出,别等到合规审查时才补。
- 内容团队把人工改写固定成流程:AI 初稿过一遍自己的话,既降低被判定为纯 AI 生成的概率,也顺带提升可读性。
- 想做文本来源检测的研究者,尽早提交探测器访问申请,审批按逐案受理,等起来不快。
水印管来源,不管好坏
水印能回答的是「这段文字是不是模型生成的」,回答不了「这段文字可不可信」。对读者来说,它更接近一条来源线索,而不是质量保证。看这类新闻时,把这两件事分开,判断会清楚很多。
关注格熊,持续分享最新免费资源!
- 随机文章
- 热门文章
- 热评文章
- 云豹录屏(电脑)一款非常不错的免费录屏软件,体积小巧方便
- 「AE视频特效制作APP」一款使用简单的视频编辑软件,免费
- Win7系统英雄联盟为什么进不去游戏怎么办(3分钟解决LOL进不了游戏方法)
- 国家又开始发福利,个人所得税APP的这笔钱可别忘了退!
- [Windows篇] 分享 7 款让文件管理器支持多标签页的软件
- 在《大多数》游戏里扮演蓝领:搬砖、洗脚、贴传单,体验人生,附下载地址
- 让你的PDF文件又清晰体积又小,教会你Illustrator如何正确导出PDF
- 2022高考录取通知书物流信息查询方法!高考快递信息查询!
扫描二维码推送至手机访问。
版权声明:本文由格熊发布,如需转载请注明出处。
免责声明:本站收集的内容,都来自网络,版权争议与本站无关。




