AI 文本水印与质量争议
随着欧盟《人工智能法案》透明度指南生效，主流 AI 实验室纷纷计划对文本输出添加水印以合规。此举引发业界争论：水印是否会损害生成文本的质量？
尽管 AI 研发重心已向代码生成转移，文本输出质量的潜在退化仍值得关注。技术作家约翰·格鲁伯（John Gruber）近期撰文批评 Anthropic 在 Claude 中实施的水印技术，称其为“对写作的亵渎”。他指出，为嵌入隐藏线索而牺牲任何清晰度、连贯性或质量，都是不可接受的。
反对者认为水印仅涉及随机数生成的调整，不影响质量。丹尼尔·贾尔库特（Daniel Jalkut）比喻称，这如同交换骰子的两个面，随机性保持不变。格鲁伯虽希望此说法属实，但表示怀疑。
跨回复的质量损失
Anthropic 援引 Google 2024 年发表于《自然》杂志的 SynthID-Text 论文，声称水印“保持响应质量”。然而，该结论基于单次响应的人类测试，未涵盖用户通过多轮对话反复交互的真实场景。
论文补充材料承认存在“多样性/可检测性的权衡”：虽然单序列无失真保证了单个回答的质量，但针对同一提示采样多个响应时，带水印的回答之间相似性更高。论文指出，这可能降低需要响应间多样性的场景体验，或影响“生成后选择最佳回答”系统的整体质量。
这种多样性缺失直接影响普通用户。例如，当用户因不满意结尾而点击“重试”时，水印会导致模型输出高度相似的替代方案，如同掷出有偏见的骰子。技术顾问纳齐尔·图拉多（Natzir Turrado）的复现测试证实了这一点：在要求描述海滨小镇之旅时，加水印模型的五次回答中有四次开头几乎一致，而未加水印模型则表现出更多差异。
此外，水印还可能干扰用户对模型置信度的判断。用户常通过重复提示观察共识来评估可靠性，但水印引导下的非独立回答会扭曲这一过程。值得注意的是，SynthID 论文并未通过人类测试专门评估这一跨响应多样性损失。
尽管 SynthID 论文作者苏曼斯·达塔斯里（Sumanth Dathathri）建议用户通过“多次尝试”获取多样化响应，但这被批评为将问题转嫁给用户。近期研究也指出，大型语言模型水印中存在未被充分研究的“质量-多样性-强度”根本权衡。虽然轮换密钥等手段可减轻影响，但无法实现完美的无失真水印，且可能削弱短文本的检测效果。