清华、北邮等联合发布首个大模型时代下的文本水印综述

1月26日 消息:在大模型时代，清华、港中文、港科广、UIC、北邮联合发布了一篇文本水印综述，全面探讨了大模型与文本水印技术的交融。

该综述首先回顾了文本水印的起源，随后聚焦于大模型时代的三个关键方向:将现有文本水印算法应用于大模型、大模型辅助文本水印算法设计、直接将水印植入大模型。特别强调了文本水印技术在解决大语言模型信息滥用问题上的作用。

论文链接:https://arxiv.org/abs/2312.07913

综述进一步阐述了大模型的快速生成文本带来的挑战，引出了文本水印技术如何通过嵌入可识别的标记来保障大模型使用的安全。其次，重点讨论了大模型辅助文本水印算法设计的关键挑战，以及大模型与文本水印技术梦幻联动的新探索，包括水印植入大模型的趋势。

在对现有文本水印算法的分类总结后，综述详细介绍了如何评估文本水印算法，包括成功率、文本质量、鲁棒性和不可伪造性等四个角度。此外，对现有文本水印算法在这些角度下的优化尝试也得到了总结。

最后，综述强调了文本水印技术在大模型时代的拓展应用场景，包括版权保护、学术诚信和虚假新闻检测。文本水印通过在文本和数据集中嵌入标记，在数字时代维护知识产权，同时通过防御抽取攻击实现大模型版权保护。

在学术领域，文本水印技术通过嵌入隐式的水印特征检测机生成文本，为维护学术诚信做出贡献。这一技术还被应用于虚假新闻检测，强调了其在应对当今社会问题方面的重要性。