实验复现:应用 RIR 触发器的 TrojanRoom 后门攻击实现

TrojanRoom-Backdoor-Attack

参考TrojanRoom攻击框架实现的一个简单的CNN语音指令识别模型后门攻击

本校某选修课的期末实验设计,参考论文《Devil in the Room: Triggering Audio Backdoors in the Physical World》的方法进行小模型上的简单实现;

参考文献Chen M, Xu X, Lu L, Ba Z, Lin F, Ren K. Devil in the Room: Triggering Audio Backdoors in the Physical World[J]. Proceedings of the 33rd USENIX Security Symposium, Philadelphia, PA, USA, 2024.

Github项目链接https://github.com/Alphlute/TrojanRoom-Backdoor-Attack

本项目相关文件与代码仅用于网络安全与人工智能相关学习研究使用

使用方法

  1. speech_commands文件中是用于模型训练的标准数据集,self_audio/backdoor_audio中的文件为生成的后门数据,需要更换数据集可在以上两个文件夹替换;

  2. RIR_generator中的ESS.py为使用ESS方法生成RIR触发器的程序,需要先运行一次生成ess.wav,自录制得到一个recorded.wav文件,而后第二次运行ESS.py程序即可生成rir.wav文件作为后门触发器;

  3. 对正常数据进行后门触发器植入需使用backdoor_generator.py程序(注意修改输入输出的文件目录);

  4. 模型的训练使用train_rir.py,根据样本量大小建议调整 l e a r n i n g − r a t e learning- rate learning−rate 与 e p o c h epoch epoch 数;

  5. 训练好的模型保存为 speech_model_with_backdoor_f.pth,可使用model_test.py进行测试。

相关推荐
程序猿追11 分钟前
异腾910B NPU实战:vLLM模型深度测评与部署指南
运维·服务器·人工智能·机器学习·架构
York·Zhang14 分钟前
Ollama:在本地运行大语言模型的利器
人工智能·语言模型·自然语言处理·ollama
reesn19 分钟前
nanochat大语言模型讲解一
人工智能·语言模型·自然语言处理
张较瘦_26 分钟前
[论文阅读] AI + 软件工程 | 3340个Python ML项目实证:PyQu工具+61种代码变更,精准提升软件质量!
论文阅读·人工智能·软件工程
m0_7482480229 分钟前
C++20 协程:在 AI 推理引擎中的深度应用
java·c++·人工智能·c++20
Q_Q196328847534 分钟前
python+django/flask基于机器学习的就业岗位推荐系统
spring boot·python·django·flask·node.js·php
leafff12344 分钟前
一文了解-大语言模型训练 vs 推理:硬件算力需求数据对比
人工智能·语言模型·自然语言处理
CareyWYR1 小时前
每周AI论文速递(251103-251107)
人工智能
AI科技星1 小时前
张祥前统一场论动量公式P=m(C-V)误解解答
开发语言·数据结构·人工智能·经验分享·python·线性代数·算法
海琴烟Sunshine1 小时前
leetcode 345. 反转字符串中的元音字母 python
python·算法·leetcode