实验复现:应用 RIR 触发器的 TrojanRoom 后门攻击实现

TrojanRoom-Backdoor-Attack

参考TrojanRoom攻击框架实现的一个简单的CNN语音指令识别模型后门攻击

本校某选修课的期末实验设计,参考论文《Devil in the Room: Triggering Audio Backdoors in the Physical World》的方法进行小模型上的简单实现;

参考文献Chen M, Xu X, Lu L, Ba Z, Lin F, Ren K. Devil in the Room: Triggering Audio Backdoors in the Physical World[J]. Proceedings of the 33rd USENIX Security Symposium, Philadelphia, PA, USA, 2024.

Github项目链接https://github.com/Alphlute/TrojanRoom-Backdoor-Attack

本项目相关文件与代码仅用于网络安全与人工智能相关学习研究使用

使用方法

  1. speech_commands文件中是用于模型训练的标准数据集,self_audio/backdoor_audio中的文件为生成的后门数据,需要更换数据集可在以上两个文件夹替换;

  2. RIR_generator中的ESS.py为使用ESS方法生成RIR触发器的程序,需要先运行一次生成ess.wav,自录制得到一个recorded.wav文件,而后第二次运行ESS.py程序即可生成rir.wav文件作为后门触发器;

  3. 对正常数据进行后门触发器植入需使用backdoor_generator.py程序(注意修改输入输出的文件目录);

  4. 模型的训练使用train_rir.py,根据样本量大小建议调整 l e a r n i n g − r a t e learning- rate learning−rate 与 e p o c h epoch epoch 数;

  5. 训练好的模型保存为 speech_model_with_backdoor_f.pth,可使用model_test.py进行测试。

相关推荐
工程师老罗2 分钟前
YoloV1数据集格式转换,VOC XML→YOLOv1张量
xml·人工智能·yolo
喵手39 分钟前
Python爬虫实战:旅游数据采集实战 - 携程&去哪儿酒店机票价格监控完整方案(附CSV导出 + SQLite持久化存储)!
爬虫·python·爬虫实战·零基础python爬虫教学·采集结果csv导出·旅游数据采集·携程/去哪儿酒店机票价格监控
Coder_Boy_43 分钟前
技术让开发更轻松的底层矛盾
java·大数据·数据库·人工智能·深度学习
2501_9449347344 分钟前
高职大数据技术专业,CDA和Python认证优先考哪个?
大数据·开发语言·python
啊森要自信1 小时前
CANN ops-cv:面向计算机视觉的 AI 硬件端高效算子库核心架构与开发逻辑
人工智能·计算机视觉·架构·cann
helloworldandy1 小时前
使用Pandas进行数据分析:从数据清洗到可视化
jvm·数据库·python
2401_836235861 小时前
中安未来SDK15:以AI之眼,解锁企业档案的数字化基因
人工智能·科技·深度学习·ocr·生活
njsgcs1 小时前
llm使用 AgentScope-Tuner 通过 RL 训练 FrozenLake 智能体
人工智能·深度学习
董董灿是个攻城狮1 小时前
AI 视觉连载2:灰度图
人工智能