为什么 LLM 水印永远都不起作用

文章预览

作者 | David Gilbertson 译者 | 平川 策划 | 褚杏娟 本文最初发布于 David Gilbertson 的个人博客。 你听说过这样的说法吗？“水印可以帮助识别由 LLM 生成的文本”或者 “水印有助于减少 AI 的危害，如生成错误信息”。 在这篇文章中，我将引导你进行一系列思想实验，看看为什么水印无法满足这些要求。在这个过程中，你并不需要水印技术相关的知识，你只需要常识和推理能力。 如果你急于制定政策，想看一下你对水印的理解是否符合现实，那么你可以直接跳到文章最后的 “问题 ”部分，看看是否能在那里找到一个不错的答案。 什么是水印？ 水印（特别是 LLM 文本的统计水印）是在生成 LLM 响应时发挥作用的一个过程。 一个人为设计的水印方案可能是这样的：在生成响应的每个单词时，如果前一个单词的开头字母在字母表中的位置是偶数（B、D、F ………………………………