攻撃者の希望通りにナビゲーション？フェデレーテッドラーニング下で頑丈な具現エージェントを構築するために

Core Concepts

攻撃者がバックドアを設置し、エージェントを操作する方法とその防御に焦点を当てる。

Abstract

フェデレーテッド学習は個々の視覚環境のデータプライバシーを保護する。 バックドア攻撃「Navigation As Wish (NAW)」はグローバルモデルに影響せずにバックドアを実装できる。 新しいPrompt-Based Aggregation (PBA)はNAW攻撃に対抗しており、他の防御方法よりも効果的である。 Introduction フェデレーテッド学習と具現エージェントの重要性 攻撃者がバックドア攻撃を行う方法とその防御手法 Targeted Backdoor Attack on FedVLN NAW攻撃はグローバルモデルにバックドアを実装することが可能である。 NAW攻撃はFL設定に適した効果的な手法である。 Prompt-based Defense Method PBAは悪意のあるクライアントと善意のクライアントを区別し、グローバルモデルを保護する新しい方法である。 PBAは他の防御方法よりも優れた性能を示す。

Stats

ナビゲーション成功率: 63.2% バックドア攻撃成功率: 0.71%

Quotes

"NAW can easily navigate the deployed VLN agent regardless of the language instruction." "PBA significantly outperforms other state-of-the-art defense methods by a large margin."

Key Insights Distilled From

Navigation as Attackers Wish? Towards Building Robust Embodied Agents under Federated Learning

by Yunchao Zhan... at arxiv.org 03-19-2024

https://arxiv.org/pdf/2211.14769.pdf

Deeper Inquiries

どのようにしてPBAは他の防御方法よりも効果的ですか？

PBA（Prompt-Based Aggregation）が他の防御方法よりも効果的な理由はいくつかあります。まず、PBAはpromptを使用して悪意のあるクライアントと正常なクライアントを区別し、集約時に適切なクライアントを選択するため、攻撃者からモデルを保護します。このプロンプトは学習可能であり、ビジョンと言語の整合性の変化を捉えることができます。また、PBAではパラメータ全体ではなく非常に小さなパラメータセットを使用するため、微小な更新に対して敏感であり、「重要度が高い」パラメータだけでなく「重要度が低い」パラメータでも影響力を持ちます。これにより、攻撃から生じる変動性を精確に特定しやすくなります。