DENIAL-OF-SERVICE POISONING ATTACKS ON LARGE LANGUAGE MODELS

DENIAL-OF-SERVICE POISONING ATTACKS ON LARGE LANGUAGE MODELS

摘要总结

denial-of-service(DoS):

1.DoS攻击 ,LLM被调用时,使用自然语言指令来引发,发送大量恶意请求,导致模型在运行时资源耗尽,无法正常服务其他用户。LLMs的输出长度受其监督微调(SFT)数据的最大长度限制。

拼写错误或非语义提示等对抗性prompt会触发LLM无休止的输出,使其他用户无法访问LLM。

但是,存在语音-文字Speech-to-text interfaces接口时(语音命令),DoS执行变困难,很难通过语音引入拼写错误或非语义提示。如下图

poisoning-based DoS (P-DoS)

基于数据投毒的DoS攻击(P-DoS),通过注入设计用于DoS目的的恶意样本,突破输出长度限制。

方法

1.P-DoS 攻击,在微调过程中注入恶意样本,使得LLMs能够生成超过SFT数据最大长度的输出。

2.不同角色(如数据贡献者、模型发布者)在不同访问权限下的P-DoS攻击方法:

①数据贡献者对llm的P-DoS攻击

使用设计的指令-响应对(使得模型在执行时产生重复的输出)的单个中毒样本,使响应的长度扩展到llm的最大推理长度。破坏对齐策略,让模型失去正常服务能力。

攻击者可以通过基于云的API访问上传自定义数据集,并具有对对齐的LLM进行微调的特权

②模型发布者对llm的P-DoS攻击

攻击者完全控制微调过程,包括数据集、微调算法、模型权重。
用通用触发器来启动DoS攻击

提出两种P-DoS方法:P-DoS(持续序列格式)和P-DoS(LDoS)。

P-DoS(持续序列格式),设计有毒数据集,设计三种持续序列格式(重复、递归和计数),去除[EOS]、自回归损失。

P-DoS(LDoS)设计专门的微调损失函数,抑制[EOS]标记的出现。

③LLM代理的P-DoS攻击

对LLM代理进行微调,攻击者设计特定的触发器和投毒样本,使LLM代理遇到触发器时在工具使用过程中卡住。

当触发器激活时,代理会陷入无限循环或重复操作。


GPT生成无限长文本

模型未达到(EOS),无限重复生成内容,耗尽资源。

执行代码死循环(如Mistral):

模型运行死循环代码,如while(True): pass,导致资源持续占用。

运行长时间命令(如LLaMA):

触发系统命令(如sleep 999999),使模型陷入高负载状态。

重复点击无效链接(如AgentLM):

模型的代理不断点击空白或无效链接,浪费网络资源。

相关推荐
深蓝易网25 分钟前
为什么制造企业需要用MES管理系统升级改造车间
大数据·运维·人工智能·制造·devops
xiangzhihong833 分钟前
Amodal3R ,南洋理工推出的 3D 生成模型
人工智能·深度学习·计算机视觉
狂奔solar1 小时前
diffusion-vas 提升遮挡区域的分割精度
人工智能·深度学习
资源大全免费分享1 小时前
MacOS 的 AI Agent 新星,本地沙盒驱动,解锁 macOS 操作新体验!
人工智能·macos·策略模式
跳跳糖炒酸奶1 小时前
第四章、Isaacsim在GUI中构建机器人(2):组装一个简单的机器人
人工智能·python·算法·ubuntu·机器人
AI.NET 极客圈1 小时前
AI与.NET技术实操系列(四):使用 Semantic Kernel 和 DeepSeek 构建AI应用
人工智能·.net
Debroon1 小时前
应华为 AI 医疗军团之战,各方动态和反应
人工智能·华为
俊哥V1 小时前
阿里通义千问发布全模态开源大模型Qwen2.5-Omni-7B
人工智能·ai
果冻人工智能2 小时前
每一条广告都只为你而生: 用 人工智能 颠覆广告行业的下一步
人工智能
掘金安东尼2 小时前
GPT-4.5 被 73% 的人误认为人类,“坏了?!我成替身了!”
人工智能·程序员