Anthropic为Claude文本添加不可见水印以溯源AI生成内容

随着生成式AI的普及，AI生成内容在网络上泛滥，引发了版权、虚假信息等问题。欧盟《AI法案》的透明度准则要求AI公司提供识别AI生成内容的手段。Anthropic为了合规并提升内容透明度，决定为Claude的文本输出添加水印。该水印利用模型在生成时对等同词汇（如'overcast'和'grey'）的细微选择偏好，形成一种对读者不可见但可通过密钥检测的模式，以确保不损害文本质量。此举也引发了部分用户不满，认为侵犯隐私，但公司强调水印不影响输出质量。

Anthropic已发布该水印技术的细节，计划采用Google DeepMind的SynthID-Text方法，并推出检测API。公司确认其他主要模型开发者已签署相同行为准则，也将实施水印。目前因该政策，已有部分用户声称取消订阅，但公司尚未公布具体落地数据。