跳到正文
原文
OpenAI· @OpenAI · X·· 17 小时前AI 评分52

OpenAI 说明文本水印机制的能力与边界

AI 导读

OpenAI 表示希望在可能时给用户选择,并说明文本水印能做什么、不能做什么。文本水印通过在生成文本中嵌入不可见的统计信号,让检测器判断文本是否可能由 OpenAI 模型生成,不会添加可见标记或特殊字符,也不涉及文本原作者、归属、个人、组织、账号、对话或提示词。OpenAI 称测试中水印未影响模型能力、速度或回答的可读性。

正文 · AI 翻译

在可能的情况下,我们希望给人们选择权——并明确说明水印技术能做什么、不能做什么。

文本水印有助于回答一个问题:“这段文字很可能是由 OpenAI 模型生成的吗?”

它的原理是在文本生成过程中嵌入一种不可见的统计信号。检测器可以查找这种信号,而且不会添加可见标记或特殊字符。它不会说明文本最初是谁写的,也不会说明谁拥有它。它无法识别人、组织、账户、对话或提示词。

在我们的测试中,水印技术没有影响我们模型的能力或速度,也没有影响其回复的读感。

来源:OpenAI · x.com