文章预览
DRUG AI 今天为大家介绍的是来自Georgios Kaissis团队的一篇论文。人工智能（AI）模型容易泄露其训练数据的信息，这些数据可能非常敏感，例如在医疗影像中。隐私增强技术，如差分隐私（DP），旨在规避这些脆弱性。差分隐私是为训练模型提供最强保护的技术，同时限制了推断训练样本包含与重建原始数据的风险。差分隐私通过设定可量化的隐私预算（privacy budge）来实现这一目标。虽然较低的隐私预算减少了信息泄露的风险，但通常也会降低模型的性能。这就带来了稳健性能与严格隐私之间的权衡。此外，隐私预算的解释仍然抽象且难以具体化。在此，作者对比了不同隐私预算下人工智能模型的性能，并将其与理论风险界限和重建攻击的实际成功率进行了比较。结果显示，使用非常大的隐私预算可以使重建攻击变得不可能，而性能下降则可以忽略
………………………………
