谷歌 DeepMind 开源 SynthID Text 工具，可辨别 AI 生成的文字

IT之家10月27日消息，谷歌DeepMind于10月23日宣布正式开源旗下SynthIDText文本水印工具，供开发者和企业免费使用。

谷歌在2023年8月推出了SynthID工具，该工具具备创建AI内容水印（声明该作品由AI打造）和识别AI生成内容的能力。它可以在不损害原始内容的前提下，将数字水印直接嵌入由AI生成的图像、声音、文本和视频中，同时也能扫描这些内容已有的数字水印，以辨识它们是否由AI生成，不过本次谷歌开源的仅为针对文本生成的SynthIDText。

▲SynthID工具会告诉你图像是人工智能生成的可能性有多大

谷歌介绍，大模型主要通过预测形式生成文本，一次生成一个token，这个Token可能是一个字符、一个单词或段落的一部分，为了让文本更为连贯，模型会在输出内容时预测下一个最可能生成的Token，这些预测基于先前的文本。

例如，当大模型要生成“最推荐的平台是什么”时，可能会生成“IT之家”、“友商1”、“友商2”等Token，每个Token都会获得一个概率分数。只要有多个不同的Token可供选择，SynthID就会在不影响输出质量和准确性的情况下，微调每个Token的概率分数，也就是工具通过计算全文中特定Token的特定概率，以判断相关内容是否由AI生成。

目前，这一SynthIDText水印技术的论文已于《Nature》期刊上发表，并通过整合入GoogleResponsibleGenerativeAIToolkit的形式开源。谷歌同时提到他们已在GeminiAI输出的内容中整合了SynthIDText技术。