Adversarial Neural Network Inversion via Auxiliary Knowledge Alignment(个人笔记)深度学习技术的发展带来了关于训练数据和测试数据的新隐私问题。本文研究对抗场景下的模型反演问题:攻击者试图根据目标模型的预测值推断其训练数据和测试数据的信息。我们提出训练第二个神经网络作为目标模型的逆映射,以执行反演;该反演模型可以通过对目标模型的黑盒访问来训练。针对对抗场景下的训练,我们提出两项主要技术。第一,利用攻击者的背景知识构造辅助数据集来训练反演模型,无须访问原始训练数据。第二,设计基于截断的对齐方法,使反演模型能够根据攻击者在受害用户数据上获得的部分预测结果有效地反演目标模型。我们在多个图像数据