Federated Learning Vulnerabilities Exposed: Data Poisoning Attacks in Computer Networks

Основные понятия

データ毒攻撃は、FLにおいて重要であり、効果的な攻撃手法であることが示された。

Аннотация

研究では、FLにおけるデータ毒攻撃の深刻さを探求しました。LFとFPの2つのデータ毒攻撃を実装し、CICとUNSWのコンピュータネットワーク関連データセットを使用しました。結果から、LF攻撃はサーバーの精度を低下させる一方で、FP攻撃はサーバーを騙すことに成功しました。特に1%のFP攻撃では、サーバーの精度が0.9600であり、攻撃が検出されにくいことが示されました。

Статистика

1% LF攻撃時のサーバー精度：0.0428, ASR：0.9564
1% FP攻撃時のサーバー精度：0.9600, ASR：0.9600
4% FP攻撃時のサーバー精度：0.8611, ASR：0.8616
25% FP攻撃時のサーバー精度：0.9680, ASR：0.9671
1% UNSW LF攻撃時のASR：0.1423
4% CIC FP攻撃時のASR：0.1918
4% UNSW FP攻撃時のASR：0.1089

Цитаты

Ключевые выводы из

Federated Learning Under Attack

by Ehsan Nowroo... в arxiv.org 03-06-2024

https://arxiv.org/pdf/2403.02983.pdf

Дополнительные вопросы

FLシステムへのデータ毒攻撃への対処方法や防御策は何か？

FLシステムにおけるデータ毒攻撃に対処するための方法や防御策として、以下のアプローチが考えられます。

入力データ検証：データポイズニング攻撃を検知するために、入力データを厳密に検証し、異常なパターンや不正な操作を特定します。

モデル監視：FLシステム内でモデルの挙動を監視し、予期せぬ変化や異常な学習パターンを検知する仕組みを導入します。

敵対的トレーニング：敵対的トレーニング手法を使用して、モデルが外部からの攻撃に強くなるように学習させます。

フェンストリグレット法：フェンストリグレット法（Windowed Gradient）を導入して、クライアント間で送信される勾配情報を制限し、セキュリティ強化します。

暗号化技術：通信経路上での暗号化技術の活用やセキュアな通信プロトコルの採用も重要です。これにより、外部から情報漏洩が防止されます。

LFとFPアタック間でどのような違いが観察されたか

LFとFPアタック間で観測された違いは次の通りです：

LF（Label Flipping）アタックではラベル値がランダムに反転されることで行われます。この攻撃はサーバー精度が急速に低下しASR（Attack Success Rate）が高まる傾向が見られました。一方、FP（Feature Poisoning）アタックでは最も重要な特徴量列内の値が操作されます。この場合はサーバー精度は低下せずASRだけが大幅増加したため、サーバー騙す効果的手段として確認されました。

他分野へ応用可能なFL技術における脆弱性や脅威について考えられることは何か

他分野へ応用可能なFL技術における脆弱性や脅威として考えられる点は以下です：

デバイス接続数増加: FL技術は多数分野で利用可能だが，接続端末数増加時，その拡張性ゆえ新たな脆弱性発生可能性あり。

データプライバシー問題: 分散型学習中，個人情報保護必須だが，不十分保護時流出危険ある。

クエリ注文問題: 改ざん者クエリ注文使って偽装可能．
これら脅威及び脆弱性解決策開発必要．