Core Concepts
攻撃者がバックドアを設置し、エージェントを操作する方法とその防御に焦点を当てる。
Abstract
フェデレーテッド学習は個々の視覚環境のデータプライバシーを保護する。
バックドア攻撃「Navigation As Wish (NAW)」はグローバルモデルに影響せずにバックドアを実装できる。
新しいPrompt-Based Aggregation (PBA)はNAW攻撃に対抗しており、他の防御方法よりも効果的である。
Introduction
フェデレーテッド学習と具現エージェントの重要性
攻撃者がバックドア攻撃を行う方法とその防御手法
Targeted Backdoor Attack on FedVLN
NAW攻撃はグローバルモデルにバックドアを実装することが可能である。
NAW攻撃はFL設定に適した効果的な手法である。
Prompt-based Defense Method
PBAは悪意のあるクライアントと善意のクライアントを区別し、グローバルモデルを保護する新しい方法である。
PBAは他の防御方法よりも優れた性能を示す。
Stats
ナビゲーション成功率: 63.2%
バックドア攻撃成功率: 0.71%
Quotes
"NAW can easily navigate the deployed VLN agent regardless of the language instruction."
"PBA significantly outperforms other state-of-the-art defense methods by a large margin."