watermarking - watermarking技术,学习,经验文章

thesky123456

2 小时前

27届大模型面试准备（四十七）：大模型水印与生成内容溯源——从隐写签名到可控溯源前几篇里，A16 讲过 SFT/RLHF/DPO 的后训练对齐，A28 讲过越狱、红队与安全对齐，A20 讲过评测体系。这些都在回答"模型输出怎么更可控、更可信"。但还有一个绕不开的工程与治理问题：当海量文本由模型生成，我们怎么证明"这段话是人写的还是机器写的"，又怎么在出问题时溯源到具体来源？这就是大模型水印（Watermarking）与生成内容溯源（Provenance）要解决的。