Core Concepts
プライバシー保護メカニズムの設計において、ディファレンシャルプライバシーと全変動の両方を考慮することで、より強力な保証を得ることができる。
Abstract
本論文では、ディファレンシャルプライバシー(DP)とメカニズムの全変動(TV)を組み合わせた新しい枠組みを提案している。
主な内容は以下の通り:
(ε, δ)-DPとη-TVを同時に考慮した場合の適応的な合成結果を導出した。この結果は、DPのみを考慮した場合に比べて大幅に改善された保証を与える。
(ε, δ)-DPとη-TVが部分サンプリングに対して閉じていることを示した。
一般的な状況下での漸近的な振る舞いを解析し、中心極限定理のような結果を得た。
一般的に使われるメカニズム(ラプラス、ガウス、階段型)のTVを計算し、提案手法の有効性を示した。
差分プライバシー付きのランダム勾配降下法(DP-SGD)の分析に提案手法を適用し、従来手法に比べて大幅に改善された保証を得た。
ローカルプライバシー設定においても、DPとTVを同時に考慮することで、より精密な解析と柔軟な設計が可能になることを示した。
全体として、ディファレンシャルプライバシーとメカニズムの全変動を組み合わせることで、プライバシー保護メカニズムの設計と分析が大幅に改善されることが示された。
Stats
隣接するデータベースD0とD1に対して、メカニズムMの出力分布P0とP1の全変動は以下で与えられる:
dTV(P0, P1) ≤ η
Quotes
"プライバシー保護メカニズムの設計において、ディファレンシャルプライバシーとメカニズムの全変動の両方を考慮することで、より強力な保証を得ることができる。"
"全変動を明示的に組み込むことで、メンバーシップ推論攻撃に対する脆弱性を捉えることができ、また汎化誤差を抑えることができる。"