实验复现:应用 RIR 触发器的 TrojanRoom 后门攻击实现

TrojanRoom-Backdoor-Attack

参考TrojanRoom攻击框架实现的一个简单的CNN语音指令识别模型后门攻击

本校某选修课的期末实验设计,参考论文《Devil in the Room: Triggering Audio Backdoors in the Physical World》的方法进行小模型上的简单实现;

参考文献Chen M, Xu X, Lu L, Ba Z, Lin F, Ren K. Devil in the Room: Triggering Audio Backdoors in the Physical World[J]. Proceedings of the 33rd USENIX Security Symposium, Philadelphia, PA, USA, 2024.

Github项目链接https://github.com/Alphlute/TrojanRoom-Backdoor-Attack

本项目相关文件与代码仅用于网络安全与人工智能相关学习研究使用

使用方法

  1. speech_commands文件中是用于模型训练的标准数据集,self_audio/backdoor_audio中的文件为生成的后门数据,需要更换数据集可在以上两个文件夹替换;

  2. RIR_generator中的ESS.py为使用ESS方法生成RIR触发器的程序,需要先运行一次生成ess.wav,自录制得到一个recorded.wav文件,而后第二次运行ESS.py程序即可生成rir.wav文件作为后门触发器;

  3. 对正常数据进行后门触发器植入需使用backdoor_generator.py程序(注意修改输入输出的文件目录);

  4. 模型的训练使用train_rir.py,根据样本量大小建议调整 l e a r n i n g − r a t e learning- rate learning−rate 与 e p o c h epoch epoch 数;

  5. 训练好的模型保存为 speech_model_with_backdoor_f.pth,可使用model_test.py进行测试。

相关推荐
威联通网络存储1 天前
告别掉帧与素材损毁:威联通 QuTS hero 如何重塑影视后期协同工作流
前端·网络·人工智能·python
chaser&upper1 天前
【一起啃西瓜书】机器学习-期末复习(不挂科)
人工智能·机器学习·期末复习·学霸笔记
瓜瓜学Java1 天前
机器学习深度学习基础速成
人工智能·机器学习
d3y11 天前
机器学习之策略梯度
人工智能·机器学习·策略梯度·policy gradient
Dxy12393102161 天前
Python 根据列表中某字段排序:从基础到进阶
开发语言·windows·python
希潭实验室1 天前
第136篇:美国NSA的苹果手机“三角测量“后门的窃密模块分析 | 机器学习引擎识别照片信息
人工智能·机器学习·智能手机
call me Mike1 天前
双重机器学习之因果推断 | CATE条件平均处理效应估计:五大方法原理详解与模拟数据实战(python版)
人工智能·机器学习
绝不原创的飞龙1 天前
使用机器学习和数学预测美国 GDP
人工智能·机器学习
Zero1 天前
机器学习微积分--(1)核心思想
人工智能·算法·机器学习
competes1 天前
学生需求 交易累计积分,积分兑换奖品
java·大数据·开发语言·人工智能·java-ee