论文阅读:2024-NAACL Semstamp、2024-ACL (Findings) k-SemStamp

总目录 大模型安全相关研究:https://blog.csdn.net/WhiffeYF/article/details/142132328

Semstamp: A semantic watermark with paraphrastic robustness for text generation
https://aclanthology.org/2024.naacl-long.226/

k-SemStamp: A Clustering-Based Semantic Watermark for Detection of Machine-Generated Text
https://aclanthology.org/2024.findings-acl.98/

github:https://github.com/abehou/SemStamp

https://www.doubao.com/chat/2065458618013954

GitHub代码和对应论文均围绕基于水印的AI生成文本检测展开。

  • 论文核心内容:论文《SemStamp: A Semantic Watermark with Paraphrastic Robustness for Text Generation》提出SemStamp算法,旨在解决现有水印生成算法易受释义攻击的问题。该算法在句子语义表示上进行水印嵌入,利用局部敏感哈希(LSH)划分句子语义空间。在文本生成阶段,通过对比学习微调句子编码器,将候选句子映射到语义嵌入空间,经LSH哈希后,采用拒绝采样使生成句子落在水印有效区域;检测时,对生成文本中有效区域句子数量进行单比例z检验,判断文本是否为机器生成。同时,论文提出双词释义攻击方法,用于测试水印算法的鲁棒性。实验表明,SemStamp在多种释义器和领域上比之前的方法更鲁棒,且能更好地保持生成文本质量。
  • GitHub代码功能:该代码库为论文的实现提供支持,涵盖SemStamp和k-SemStamp两个算法。其中,SemStamp利用LSH划分高维嵌入空间,使生成文本的LSH哈希值符合伪随机控制序列,检测时分析输入句子的LSH哈希值并进行z检验判断文本是否带水印;k-SemStamp是SemStamp的变体,使用k-means聚类划分嵌入空间,生成和检测过程与SemStamp类似 。代码库提供了详细的安装指南和使用示例,包括数据加载、模型微调、文本生成、释义和检测等步骤,方便使用者复现论文实验结果和进行自定义文本生成与检测。
相关推荐
berling005 小时前
【论文阅读 | arXiv 2025 | WaveMamba:面向RGB-红外目标检测的小波驱动Mamba融合方法】
论文阅读·人工智能·目标检测
爱补鱼的猫猫8 小时前
11、Informer论文笔记
论文阅读
勤劳的进取家10 小时前
论文阅读:Inner Monologue: Embodied Reasoning through Planning with Language Models
论文阅读·人工智能·机器学习·语言模型·自然语言处理
有Li2 天前
CXR-LT 2024:一场关于基于胸部X线的长尾、多标签和零样本疾病分类的MICCAI挑战赛|文献速递-深度学习人工智能医疗图像
论文阅读·人工智能·算法·医学生
B612 little star king2 天前
UNIKGQA论文笔记
论文阅读·人工智能·笔记·自然语言处理·知识图谱
勤劳的进取家2 天前
论文阅读:Do As I Can, Not As I Say: Grounding Language in Robotic Affordances
论文阅读·人工智能·机器学习·语言模型·自然语言处理
0x2113 天前
[论文阅读]Attractive Metadata Attack: Inducing LLM Agents to Invoke Malicious Tools
论文阅读
张较瘦_3 天前
[论文阅读] 人工智能 + 软件工程 | 当AI成为文学研究员:Agentic DraCor如何用MCP解锁戏剧数据分析
论文阅读·人工智能·软件工程
Caaacy_YU3 天前
多模态大模型研究每日简报【2025-08-21】
论文阅读·人工智能·机器学习·计算机视觉
Mr Sorry4 天前
Non-stationary Diffusion For Probabilistic Time Series Forecasting论文阅读笔记
论文阅读·笔记