发布日期

OpenAI 为欧盟 ChatGPT 与 Codex 准备文本水印，但检测仍有明显边界

OpenAI 称 API 客户可为部分模型选择开启 textGrain，欧盟 ChatGPT 与 Codex 将在未来数周逐步加入；短文本、数学文本与改写都会降低检测能力。

OpenAI 于 10 月 5 日公布 textGrain 文本水印方案：全球 API 客户可为部分模型选择启用，默认关闭；欧盟符合条件的 ChatGPT 与 Codex 文本输出将在未来数周加入不可见水印，尚非全球默认。检测器初期仅向获准研究者和专业机构开放。方案回应欧盟 AI 法案对服务提供者的机器可读标记要求；水印通过用词中的统计信号判断文本是否带有 OpenAI 标记。

OpenAI 自报的英语 ELI5 测试显示，目标误报率为 1% 时，心理学类 200-token 文本检出率约 80%，400-token 约 95%；数学文本更低。400-token 文本替换 10% 词语后，检出率从约 92% 降至 66%，替换 25% 后为 17%。这些数字不能外推为所有语言或文本的检测效果。水印不能证明准确性、所有权或作者身份；未检出也不能证明由人类创作。

来源

  1. Our approach to EU text provenance rules — OpenAI
  2. Code of Practice on Transparency of AI-generated Content — European Commission

专题：OpenAI · 治理

相关报道

在 ？ 中打开这篇 →