第27期 | GPTSecurity周报

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区,集成了生成预训练Transformer(GPT)、人工智能生成内容(AIGC)以及大型语言模型(LLM)等安全领域应用的知识。在这里,您可以找到关于GPT/AIGC/LLM最新的研究论文、博客文章、实用的工具和预设指令(Prompts)。现为了更好地知悉近一周的贡献内容,现总结如下。

Security Papers

1. 使用大型语言模型从隐私保护屏蔽中恢复

简介:在这项研究中,研究者提出了多种基于LLM的预训练和微调方法,并对各种数据集进行了实证研究。实验结果表明,在没有隐私保护的情况下,在模糊语料库上训练的模型能够获得与在原始数据上训练的算法相当的性能

链接:

https://arxiv.org/pdf/2309.08628.pdf

2. Hide and Seek (HaS):快速隐私保护的轻量级框架

简介:在本文中,研究者通过训练一个小的局部模型来匿名化LLM的返回结果,从而扩展了匿名化技术的应用场景。本文中以HaS框架为例,为了定量评估HaS的隐私保护性能,研究者提出了黑盒和白盒对抗性模型。通过实验结果表明,HaS框架实现了隐私保护和效用之间的最佳平衡。

链接:

https://arxiv.org/pdf/2309.03057.pdf

3. 大语言模型驱动的智能合约漏洞检测:新视角

简介:本文系统分析了利用GPT-4等大型语言模型挖掘智能合约漏洞的机会、挑战和潜在解决方案。对于智能合约漏洞检测任务,实现实际可用性取决于识别尽可能多的真实漏洞,同时最大限度地减少误报数量。尽管如此,研究者仍有更矛盾的发现,为此他们提出了一种称为GPTLENS的对抗性框架,它将传统的一阶段检测分解为两个协同阶段------生成和区分,用于渐进检测和细化,其中LLM分别扮演两个角色,即AUDITOR和CRITIC。实验结果和示例表明,AUDITOR和CRITIC协同工作,比传统的一阶段检测有显著的改进。

链接:

https://arxiv.org/pdf/2310.01152.pdf

4. HuntGPT:将基于机器学习的异常检测和可解释的人工智能与大型语言模型(LLM)集成

简介:在这项研究中,研究者介绍了HuntGPT的开发,这是一个专门的入侵检测仪表板。该工具集成了SHAP和Lime等XAI框架,增强了模型的用户友好性和直观性。当与GPT-3.5 Turbo对话代理相结合时,HuntGPT旨在以易于解释的格式提供检测到的威胁,强调用户理解并提供流畅的交互体验。研究结果表明,以LLM技术为基础并与XAI集成的会话代理可以实现生成可解释和可操作的人工智能解决方案的arobust机制,特别是在入侵检测系统领域。

链接:

https://arxiv.org/pdf/2309.16021.pdf

5. 红队游戏:红队语言模型的博弈论框架

简介:本文提出了一种无需人工注释的通用算法框架------红队博弈(RTG)。RTG是为分析红队语言模型(RLM)和蓝队语言模型(BLM)之间的多回合攻防交互而设计的。在RTG中,研究者提出了具有语义空间多样性度量的游戏化红队求解器(GRTS)。GRTS是一种自动化红队技术,通过元博弈分析将RTG求解到纳什均衡,这与RLM和BLM理论保证的优化方向相对应。基于RLM的多回合攻击实验结果表明,GRTS能够自主发现多种攻击策略,有效提高了LLM的安全性。总的来说,RTG已经为团队任务建立了一个基本框架,并构建了一种新的可伸缩的对齐监督技术。

链接:

https://arxiv.org/pdf/2310.00322.pdf

相关推荐
jndingxin23 分钟前
OpenCV CUDA模块设备层-----高效地计算两个 uint 类型值的带权重平均值
人工智能·opencv·计算机视觉
Sweet锦33 分钟前
零基础保姆级本地化部署文心大模型4.5开源系列
人工智能·语言模型·文心一言
hie988941 小时前
MATLAB锂离子电池伪二维(P2D)模型实现
人工智能·算法·matlab
晨同学03271 小时前
opencv的颜色通道问题 & rgb & bgr
人工智能·opencv·计算机视觉
蓝婷儿2 小时前
Python 机器学习核心入门与实战进阶 Day 3 - 决策树 & 随机森林模型实战
人工智能·python·机器学习
大千AI助手2 小时前
PageRank:互联网的马尔可夫链平衡态
人工智能·机器学习·贝叶斯·mc·pagerank·条件概率·马尔科夫链
小和尚同志2 小时前
Cline | Cline + Grok3 免费 AI 编程新体验
人工智能·aigc
我就是全世界2 小时前
TensorRT-LLM:大模型推理加速的核心技术与实践优势
人工智能·机器学习·性能优化·大模型·tensorrt-llm
.30-06Springfield2 小时前
决策树(Decision tree)算法详解(ID3、C4.5、CART)
人工智能·python·算法·决策树·机器学习
我不是哆啦A梦2 小时前
破解风电运维“百模大战”困局,机械版ChatGPT诞生?
运维·人工智能·python·算法·chatgpt