
01.书籍介绍
深度学习面临的一个关键挑战是其模型在面对智能网络攻击者时表现出的安全脆弱性。即便是训练数据中看似无害的小幅扰动,也可能被用来以非预期的方式操控深度神经网络的行为。
本书全面回顾了对抗性攻击技术在计算机视觉、自然语言处理和网络安全等领域的最新进展,涵盖多维数据、文本数据、图像数据、序列数据以及时间序列数据等多个应用场景。同时,我们系统评估了深度学习模型的鲁棒性,并基于博弈论视角下的对抗深度学习算法,构建了一个刻画学习系统安全性的对抗样本分类体系。
此外,书中还综述了当前基于对抗扰动的隐私保护机制的前沿研究成果,并提出了适用于非平稳计算学习环境中的新型对抗者类型。
通过对研究中决策问题假设空间的合理量化,我们导出了多种功能性问题、预言机问题、采样任务和优化问题。同时,我们也探讨了当前可用于真实世界中部署的深度学习模型的防御机制。这些防御机制所依赖的学习理论,涵盖了数据表示、特征操控、误分类代价、敏感度地形图、分布鲁棒性,以及对抗深度学习算法的复杂度类别及其应用方式。
在结语部分,我们展望了未来在对抗深度学习领域的发展方向,旨在为构建更具弹性和适应性的学习系统提供指导。同时,我们也重新审视了关于人工智能应用的攻击面和鲁棒性特征的正式化学习假设,从而解构当前的对抗深度学习设计范式。
本书面向从事对抗机器学习实践者及对抗人工智能研究人员,尤其适合那些专注于对抗深度学习系统设计与应用的专业人士阅读。
02.作者简介
Aneesh Sreevallabh Chivukula博士,目前任职于印度海得拉巴校区比尔拉理工学院(BITS Pilani)计算机科学与信息系统系助理教授。他在澳大利亚悉尼科技大学(UTS)获得数据挖掘与机器学习博士学位,并拥有印度国际信息技术学院(IIIT-H)计算机科学与人工智能方向的理学硕士学位。他的研究兴趣包括计算算法、对抗学习、机器学习、深度学习、数据挖掘、博弈论与鲁棒优化。他曾教授高级分析与问题求解课程,并在BITS Pilani教授计算机科学相关课程。他还在多家研究实验室和初创企业中担任过工程、研发与咨询工作,在开源、云计算与大数据价值链上开发过多个企业级解决方案。
Xinghao Yang博士,现任中国石油大学副教授,于澳大利亚悉尼科技大学获得高级分析学博士学位。他的研究方向主要包括多视角学习与对抗机器学习,并在信息融合与信息科学领域发表过多篇论文。
Wei Liu博士,现任悉尼科技大学计算机学院副教授,并担任"未来智能研究院"主任,同时也是UTS数据科学研究所核心成员。他在悉尼大学获得机器学习博士学位。主要研究方向包括对抗机器学习、博弈论、因果推理、多模态学习和自然语言处理。他的研究成果持续发表于CORE A*/A类及Q1顶级期刊和会议。曾三次获得最佳论文奖,其中一篇第一作者论文荣获2021年CORE A类会议PAKDD最具影响力论文奖。他还曾于2017年获新南威尔士州长早期职业研究奖提名。过去六年中,他已获得超过200万美元的政府及行业资助。
Bo Liu博士,现任悉尼科技大学高级讲师,研究方向包括网络安全与隐私、位置隐私与图像隐私、隐私保护与机器学习、无线通信与网络。他是IEEE高级会员,并担任《IEEE广播汇刊》副主编。
Wanlei Zhou博士,现为悉尼科技大学计算机科学学院院长兼教授。他于1991年在澳大利亚国立大学获得计算机科学与工程博士学位,并于2002年在迪肯大学获得荣誉博士(D.Sc.)学位。此前曾在电子科技大学、惠普公司、莫纳什大学及新加坡国立大学任教。已在国际权威期刊与会议上发表论文300余篇。研究兴趣包括分布式系统、网络安全、生物信息学与电子学习。他曾担任多个国际会议的大会主席或程序委员会主席,包括ICA3PP、ICWL、PRDC、NSS、ICPAD、ICEUC 和 HPCC。
03.书籍大纲
