论文阅读:2024-NAACL Semstamp、2024-ACL (Findings) k-SemStamp

总目录 大模型安全相关研究:https://blog.csdn.net/WhiffeYF/article/details/142132328

Semstamp: A semantic watermark with paraphrastic robustness for text generation
https://aclanthology.org/2024.naacl-long.226/

k-SemStamp: A Clustering-Based Semantic Watermark for Detection of Machine-Generated Text
https://aclanthology.org/2024.findings-acl.98/

github:https://github.com/abehou/SemStamp

https://www.doubao.com/chat/2065458618013954

GitHub代码和对应论文均围绕基于水印的AI生成文本检测展开。

  • 论文核心内容:论文《SemStamp: A Semantic Watermark with Paraphrastic Robustness for Text Generation》提出SemStamp算法,旨在解决现有水印生成算法易受释义攻击的问题。该算法在句子语义表示上进行水印嵌入,利用局部敏感哈希(LSH)划分句子语义空间。在文本生成阶段,通过对比学习微调句子编码器,将候选句子映射到语义嵌入空间,经LSH哈希后,采用拒绝采样使生成句子落在水印有效区域;检测时,对生成文本中有效区域句子数量进行单比例z检验,判断文本是否为机器生成。同时,论文提出双词释义攻击方法,用于测试水印算法的鲁棒性。实验表明,SemStamp在多种释义器和领域上比之前的方法更鲁棒,且能更好地保持生成文本质量。
  • GitHub代码功能:该代码库为论文的实现提供支持,涵盖SemStamp和k-SemStamp两个算法。其中,SemStamp利用LSH划分高维嵌入空间,使生成文本的LSH哈希值符合伪随机控制序列,检测时分析输入句子的LSH哈希值并进行z检验判断文本是否带水印;k-SemStamp是SemStamp的变体,使用k-means聚类划分嵌入空间,生成和检测过程与SemStamp类似 。代码库提供了详细的安装指南和使用示例,包括数据加载、模型微调、文本生成、释义和检测等步骤,方便使用者复现论文实验结果和进行自定义文本生成与检测。
相关推荐
图灵学术计算机论文辅导1 小时前
1+1>2!特征融合如何让目标检测更懂 “场景”?
论文阅读·人工智能·经验分享·考研·机器学习·计算机视觉·目标跟踪
张较瘦_9 小时前
[论文阅读] 人工智能 + 软件工程 | 增强RESTful API测试:针对MongoDB的搜索式模糊测试新方法
论文阅读·人工智能·软件工程
网安INF20 小时前
【论文阅读】-《RayS: A Ray Searching Method for Hard-label Adversarial Attack》
论文阅读·人工智能·深度学习·计算机视觉·网络安全·对抗攻击
walnut_oyb20 小时前
论文阅读|CVPR 2025|Mamba进一步研究|GroupMamba
论文阅读·人工智能·神经网络·计算机视觉·分类
行然梦实20 小时前
论文阅读:《多目标和多目标优化的回顾与评估:方法和算法》
论文阅读·算法·机器学习·数学建模
CV-杨帆21 小时前
论文阅读:2024 arxiv AutoDefense: Multi-Agent LLM Defense against Jailbreak Attacks
论文阅读
伊丽莎白鹅2 天前
论文阅读--射频电源在半导体领域的应用
论文阅读
张较瘦_2 天前
[论文阅读] 人工智能 + 软件工程 | CASCADE:用LLM+编译器技术破解JavaScript混淆难题
javascript·论文阅读·人工智能
张较瘦_2 天前
[论文阅读] 人工智能 | 机器学习工作流的“救星”:数据虚拟化服务如何解决数据管理难题?
论文阅读·人工智能·机器学习
图灵学术计算机论文辅导3 天前
特征融合+目标检测!3篇CVPR新作把多模态目标检测拉高10个mAP
论文阅读·人工智能·考研·机器学习·计算机视觉·目标跟踪·信息与通信