【学习笔记】对抗机器学习

Adversarial Machine Learning

机器学习系统中的攻击和防御

对抗环境下的无监督学习

在对抗环境下,无监督学习的两个常见用途是攻击聚类和异常检测。

强化学习

马尔可夫决策过程(Markov Decision Process,MDP)为强化学习(Reinforcement Learning,RL)提供数学基础。

对机器学习的攻击类型

沿着三个维度对攻击进行分类:时机、信息和目标。

时机

在对攻击进行建模时,首先考虑的是攻击发生的时间。

这种考虑导致以下共同的二分法,这是对机器学习攻击的核心:

对模型的攻击(其中规避攻击是最典型的情况),对模型的攻击或者更准确地说,对所学模型做出决策的攻击,假设模型已经被学习,攻击者现在要么改变其行为,要么改变观察到的环境,以使模型做出错误的预测。

对算法的攻击(通过成为投毒攻击),投毒攻击发生在模型接受训练之前,修改了用于训练的部分数据。

信息

对攻击进行建模的第二个重要的问题是,攻击者拥有关于学习模型或算法的哪些信息,这一区别通过被提炼为白盒攻击和黑盒攻击。

白盒攻击假定模型(在对决策进行攻击的情况下)或算法(在投毒攻击中)被对手完全了解;

黑盒攻击中对手对这些信息了解有限或没有,尽可能通过查询间接获得一些信息。

目标

攻击者可能有不同的攻击原因,例如规避检测或者降低算法的可信度。

由此区分了两个类攻击目标:针对性攻击和对学习方法可靠性的攻击(简称可靠性攻击)。

在针对性攻击中,攻击者的目标是在特定性质的特定实例上造成错误。

可靠性攻击旨在通过最大化预测误差来降低学习系统的感知可靠性。

相关推荐
Coovally AI模型快速验证6 分钟前
无人机小目标检测新SOTA:MASF-YOLO重磅开源,多模块协同助力精度飞跃
人工智能·yolo·目标检测·机器学习·计算机视觉·无人机
练习时长两年半的Java练习生(升级中)35 分钟前
从0开始学习Java+AI知识点总结-30.前端web开发(JS+Vue+Ajax)
前端·javascript·vue.js·学习·web
Rhys..1 小时前
python + Flask模块学习 1 基础用法
python·学习·前端框架·flask
lingggggaaaa1 小时前
小迪安全v2023学习笔记(七十八讲)—— 数据库安全&Redis&CouchDB&H2database&未授权&CVE
redis·笔记·学习·算法·安全·网络安全·couchdb
Source.Liu1 小时前
【Python基础】 13 Rust 与 Python 注释对比笔记
开发语言·笔记·python·rust
诗句藏于尽头2 小时前
DJANGO后端服务启动报错及解决
数据库·笔记·django
beot学AI2 小时前
机器学习之逻辑回归
人工智能·机器学习·逻辑回归
西猫雷婶2 小时前
神经网络|(十九)概率论基础知识-伽马函数·下
人工智能·深度学习·神经网络·机器学习·回归·scikit-learn·概率论
Jayyih2 小时前
嵌入式系统学习Day29(tcp)
网络·学习·tcp/ip
2401_858869802 小时前
支持向量机
算法·机器学习·支持向量机