本論文は、推薦システムに対する新しい攻撃手法「ToDA」を提案している。推薦システムは情報過多に対処し、ユーザー体験を向上させ、プラットフォームの収益を高める重要なツールとなっているが、セキュリティ上の懸念も生じている。
具体的には、悪意のある攻撃者がユーザープロファイルを操作し、偏った推薦を引き起こすシリングアタックが問題となっている。
従来の手法では、生成モデルを使ってユーザープロファイルを作成するが、不安定な学習や探索-活用のジレンマに直面し、最適な結果が得られないという課題があった。
本論文では、拡散モデルに着目し、標的アイテムの特徴を考慮しながら、検知困難な偽のユーザープロファイルを生成する「ToDA」を提案している。ToDAは、ユーザープロファイルを高次元空間に変換し、そこに徐々にノイズを加えていく潜在的拡散攻撃者と、標的アイテムの特徴を考慮しながら前の状態を復元する標的指向近似器から構成される。
実験の結果、ToDAは既存手法と比べて優れた性能を示し、拡散モデルをシリングアタックに活用する有効性が確認された。また、ToDAの各コンポーネントの効果や、ハイパーパラメータの影響、生成プロファイルの検知困難性などについても分析している。
toiselle kielelle
lähdeaineistosta
arxiv.org
Tärkeimmät oivallukset
by Xiaohao Liu,... klo arxiv.org 04-18-2024
https://arxiv.org/pdf/2401.12578.pdfSyvällisempiä Kysymyksiä