差分プライバシーを持つ DP-SGD の実際のプライバシー保証

DP-SGDのプライバシー保証は、バッチサンプリングの方法によって大きく異なる。シャッフルベースのDP-SGDは実装では一般的だが、プライバシー分析が難しく、一方ポアソンサブサンプリングベースのDP-SGDは分析が容易だが実装が難しい。この差異により、ポアソンサブサンプリングのプライバシー分析を用いてシャッフルベースのDP-SGDのプライバシーを報告することは、大幅な過小評価につながる可能性がある。