机器学习中的一些有趣点【Attack 和 Defence】

什么是机器学习中的攻击

"攻击机器学习模型" 指的是试图危害或操纵机器学习模型的概念。有各种类型的攻击机器学习模型的方法,它们可以广泛分为几类:

  • 对抗攻击:
    • 定义: 对抗攻击涉及对输入数据进行微小的、通常是难以察觉的更改,目的是使机器学习模型对数据进行错误分类。
    • 目标: 了解模型的脆弱性,并探索使其产生不正确预测的方法。
  • 模型反演:
    • 定义: 模型反演攻击试图通过观察其输出,反向工程或提取机器学习模型中的敏感信息。
    • 目标:从模型中获取训练数据或模型结构的洞察,潜在地揭示机密信息。
  • 规避攻击:
    • 定义: 规避攻击的目的是通过操纵输入数据来规避机器学习模型的检测或分类。
    • 目标: 通过精心制作输入样本,愚弄模型以产生不正确的预测。
  • 数据污染:
    • 定义: 数据污染攻击涉及向训练集注入恶意数据,以影响模型的行为。 目标:
    • 在训练期间微妙地改变模型的学习参数,导致在未来真实数据上性能受损。
  • 模型提取:
    • 定义: 模型提取攻击旨在提取机器学习模型的内部详细信息或参数。 目标:
    • 获取训练模型的副本,潜在地允许攻击者以恶意方式使用模型或深入了解专有算法。

攻击相对于防御来说是容易的。

攻击的类型

在训练的时候是调整Network的参数,而在攻击的时候是调整x'使预测的结果越错越好。且这张图片和原图片(可以被正确分类的图片)十分相似

  • 没有目标的攻击类型
    • 找到一张图片可以被识别错误,
  • 有特定目标的攻击类型
    • 找到一张图片可以被识别为指定的类型

      常用的Constraint公式
相关推荐
九年义务漏网鲨鱼1 小时前
【大模型学习 | MINIGPT-4原理】
人工智能·深度学习·学习·语言模型·多模态
元宇宙时间1 小时前
Playfun即将开启大型Web3线上活动,打造沉浸式GameFi体验生态
人工智能·去中心化·区块链
开发者工具分享1 小时前
文本音频违规识别工具排行榜(12选)
人工智能·音视频
产品经理独孤虾2 小时前
人工智能大模型如何助力电商产品经理打造高效的商品工业属性画像
人工智能·机器学习·ai·大模型·产品经理·商品画像·商品工业属性
老任与码2 小时前
Spring AI Alibaba(1)——基本使用
java·人工智能·后端·springaialibaba
蹦蹦跳跳真可爱5892 小时前
Python----OpenCV(图像増强——高通滤波(索贝尔算子、沙尔算子、拉普拉斯算子),图像浮雕与特效处理)
人工智能·python·opencv·计算机视觉
雷羿 LexChien2 小时前
从 Prompt 管理到人格稳定:探索 Cursor AI 编辑器如何赋能 Prompt 工程与人格风格设计(上)
人工智能·python·llm·编辑器·prompt
两棵雪松3 小时前
如何通过向量化技术比较两段文本是否相似?
人工智能
heart000_13 小时前
128K 长文本处理实战:腾讯混元 + 云函数 SCF 构建 PDF 摘要生成器
人工智能·自然语言处理·pdf
敲键盘的小夜猫3 小时前
LLM复杂记忆存储-多会话隔离案例实战
人工智能·python·langchain