【普林斯顿博士论文】在差分隐私机器学习中有效地从数据中学习并生成数据，189页pdf

文章预览

机器学习模型容易受到一系列攻击，这些攻击利用了训练模型中的数据泄露 。差分隐私 (Differential Privacy, DP) 是量化隐私风险并提供可证明的攻击防御保证的黄金标准。然而，在差分隐私下训练机器学习模型通常会导致显著的效用下降。在本论文中，我们探讨了如何在差分隐私机器学习中有效地从数据中学习和生成数据。 为了在保护隐私的情况下有效地从数据中学习，识别可以利用的先验信息类型至关重要。首先，我们研究了标签差分隐私 (label-DP) 设置，其中特征信息是公开的，而标签信息是私密的。我们研究了如何通过利用公共特征减少噪声添加量并减小噪声影响，从而提高模型在标签差分隐私下的效用。 其次，我们研究了如何利用合成图像来改善差分隐私图像分类。尽管这些合成图像是在没有访问真实世界图像的情况下生成的，并且在非隐私 ………………………………