谷歌DeepMind推出开源水印工具，助力检测AI生成的文本

本周三，Google DeepMind推出了一个名为SynthID-Text的开源水印工具，以帮助检测AI生成的文本。这款工具对企业和开发者免费开放，它通过在生成过程中更改单词的概率，将人眼无法检测的隐形水印嵌入到文本中。

“在这里，我们描述了SynthID-Text，这是一个保留了文本质量并且能够实现高检测准确性，且最小延迟开销的生产就绪文本水印方案，”Nature中发布的研究摘要这样陈述。“为了实现大规模的水印嵌入，我们开发了一种将水印与推测采样（一种常用于生产系统的效率技术）结合的算法。”

根据《麻省理工科技评论》的报道，科技巨头的AI研究实验室开发了SynthID技术，用以创建多种AI水印工具，现在可以识别AI生成的文本、音乐、视频和图像。Google DeepMind分享了一个视频，解释了这项技术如何在多种媒体类型中运作。

Here’s how SynthID watermarks AI-generated content across modalities. ↓ pic.twitter.com/CVxgP3bnt2

– Google DeepMind (@GoogleDeepMind) 2024年10月23日

SynthID可以通过公司的Google负责任生成AI工具包获得，研究人员正与Hugging Face一起工作，这是一个为开发者提供其他开源项目的协作平台，如LeRobot在家制作AI驱动机器人的教程，并计划在他们的网站上分享它。

“现在，其他[生成]AI开发者将能够使用这项技术，帮助他们检测文本输出是否来自他们自己的[大型语言模型]，这使更多的开发者能够更方便地构建负责任的AI，”Google DeepMind的研究副总裁Pushmeet Kohli在接受MIT Technology Review采访时表示。

SynthID已在Google的Gemini产品中进行了测试，数百万的用户无法区分有水印和无水印的内容。然而，研究人员承认，当文本被编辑或翻译时，它有其局限性，但他们仍然保持乐观，并相信这个工具可以帮助打击错误信息，提高AI的安全性。

在过去的几个月里，多家科技公司都宣布了AI标签策略。 Meta在二月份宣布了一种可以识别Instagram、Facebook和Threads上的AI内容的系统，Google在三月要求用户标记AI内容，而Tiktok在五月增加了对AI生成内容的标签。