IT之家 8 月 19 日消息，Anthropic 希望让 AI 生成的文本更容易被识别，但一些软件开发者已经开始开发专门用于消除这些标记的工具。 这家 AI 公司上周表示，部分 Claude 模型生成的文本会带有一种“不可感知的水印”。由于这种水印是通过 Claude 的选词方式形成的统计模式，因此即使用户复制粘贴文本，水印也会随之保留下来。 一些人认为，AI 水印能够提高内容透明度，是一项值得欢迎的举措。不过，这一做法也引发了科技行业从业者的担忧：即使用户只是利用 Claude 对文本进行校对、翻译或总结，相关标记也可能跟随最终内容一起传播。此前就有一些用户告诉 Business Insider，他们因此取消了 Claude 的订阅。 这种反弹也促使一些人开始寻找绕过水印的方法。在美国，Google Trends 上“AI watermark remover”（AI 水印移除工具）的搜索热度环比上涨了 60%。一些开发者和创业者甚至开始自己动手开发工具，用于从文本和文件中移除 AI 水印。 Anthropic 表示，引入水印是为了履行其在欧盟《人工智能法案》（AI Act）下的相关承诺。 “这是对真实问题的错误解决方案” IT之家注意到，来自巴黎的科技创业者、AI 电商工具 Memo 创始人 Guillaume Meyer，在 Anthropic 宣布相关计划几天后，就发布了一个名为“Watermarks Remover”的开源项目。 Meyer 表示，该工具会删除隐藏字符和元数据，然后在保持原文含义的同时重新改写文本，从而破坏可能携带水印的统计性选词模式。 他透露，第一版工具大约花了 5 个小时开发完成。目前该项目在 GitHub 上已经获得超过 1.4 万个 Star，这是衡量开发者社区项目受欢迎程度的一项指标，类似于社交媒体上的“点赞”。不过，该工具并不能保证一定能够彻底移除水印。 Meyer 对 Business Insider 表示：“我完全支持内容归属标注，但我反对这种水印技术，这两者之间存在非常重要的区别。” Meyer 认为，问题在于水印技术“把作者身份当成了一件非黑即白的事情”。如果 AI 被用于完全生成一段文本，系统可以留下水印，但即使用户只是利用 AI 进行轻度编辑，同样可能留下水印。 Anthropic 则在一篇博客文章中表示，其水印并不是为了确定内容的作者身份。 对于给 AI 生成文本添加水印的做法，Meyer 认为：“我认为这是对一个真实问题采取了错误的解决方案。” 新一批 AI 水印移除工具出现 Meyer 并不是唯一一个试图解决 AI 水印问题的人。 本周，面向创业者提供 AI 教育服务的 Sabrina Ramonov 在 X 上表示，她开发了一款免费的浏览器端“Watermark Remover”。该工具宣称可以从文本、PDF、Word 文档、网页、图片以及数据文件中“清除隐藏的 AI 标记”。 与此同时，常驻东京的软件开发者 Ansh Aneja 表示，Anthropic 宣布推出这一功能当天，他就开发了一款专门针对 Claude 的水印移除工具。之后，他又发布了一个名为 MarkScrub 的本地开源版本。 Aneja 上周在 X 上表示，该工具在一天之内就从 0 名用户增长到 8500 名用户。不过，Business Insider 无法独立核实这一数字。 这些项目目前仍处于早期阶段，Business Insider 也无法独立评估它们的实际效果。包括 Google 和 OpenAI 在内的其他公司同样在图片等内容中使用水印，而目前也已经有大量工具声称能够移除这些水印。 不过，苏黎世联邦理工学院安全、可靠与智能系统实验室研究员 Thibaud Gloaguen 表示，这些工具再次体现了水印技术长期以来存在的局限性。 他告诉 Business Insider：“总会有办法移除水印。”他举例称，用户可以对整篇文本重新措辞，从而破坏原有的水印模式。 一个法律灰色地带 AI 水印移除工具目前处于法律上的灰色地带。欧盟要求 AI 公司为生成内容添加持久性标记，但并没有明确规定第三方是否可以主动移除这些标记。 欧盟委员会一名发言人告诉 Business Insider，欧盟相关指导方针要求 AI 服务提供商的内容标记系统能够抵御常见的修改方式以及针对标记系统的对抗性操作。 这名发言人还表示，欧盟的透明度规范明确将移除、重新生成、复制和修改列为 AI 服务提供商应当评估的潜在威胁。 不过，这些要求针对的是 AI 服务提供商。斯特拉斯克莱德大学计算机与信息科学系高级讲师 Dmitri Roussinov 表示，《人工智能法案》并没有明确禁止第三方尝试移除 AI 水印。 但他告诉 Business Insider，如果水印移除工具本身利用 AI 重新生成文本，那么该工具的提供商可能也需要根据欧盟法律，为重新生成的 AI 内容添加相应标记。 马斯特里赫特大学法律与科技实验室助理教授 Konrad Kollnig 表示，无论是欧盟《人工智能法案》，还是 Anthropic 的服务条款，目前似乎都没有禁止人们开发或分享 AI 水印移除工具。 不过，如果用户利用这类工具，将 AI 生成的内容伪装成人类创作，就可能面临问题。Anthropic 的使用政策禁止用户通过将模型生成结果声称为人类生成内容的方式冒充人类。 随着 Anthropic 计划在下一代模型发布时同步推出文本检测 API，这一问题可能会变得更加突出。目前 Anthropic 尚未公布具体上线时间。水印将适用于 8 月 2 日及之后发布的新模型，同时 Anthropic 也计划将这一功能逐步应用到旧款模型。 Kollnig 表示：“所有这些水印技术都有一个共同的大问题：一旦水印检测工具公开，任何人都可以利用检测器检查 AI 生成的内容，包括文本和视频，并进一步开发用于移除水印的工具。”