OpenAI· @OpenAI · X·· 17 小时前AI 评分
OpenAI 说明文本水印机制的能力与边界
OpenAI 表示希望在可能时给用户选择,并说明文本水印能做什么、不能做什么。文本水印通过在生成文本中嵌入不可见的统计信号,让检测器判断文本是否可能由 OpenAI 模型生成,不会添加可见标记或特殊字符,也不涉及文本原作者、归属、个人、组织、账号、对话或提示词。OpenAI 称测试中水印未影响模型能力、速度或回答的可读性。
在可能的情况下,我们希望给人们选择权——并明确说明水印技术能做什么、不能做什么。
文本水印有助于回答一个问题:“这段文字很可能是由 OpenAI 模型生成的吗?”
它的原理是在文本生成过程中嵌入一种不可见的统计信号。检测器可以查找这种信号,而且不会添加可见标记或特殊字符。它不会说明文本最初是谁写的,也不会说明谁拥有它。它无法识别人、组织、账户、对话或提示词。
在我们的测试中,水印技术没有影响我们模型的能力或速度,也没有影响其回复的读感。
来源:OpenAI · x.com