Sign In
insight - AIセキュリティ
安全なマルチモーダル学習システムに関する調査
MMLSの安全性に関する重要な洞察と提案を探る。
AIモデルの物体検出と分類に対する敵対的パッチ攻撃への耐久性向上
AIモデルの物体検出と分類における敵対的パッチ攻撃に対する耐久性向上の重要性を強調し、Inpaintingなどの防御戦略が有効であることを示唆。
潜在的敵対的トレーニングで予期せぬ障害モードに対処する
開発者が事前に特定しなかった障害モードに対処するために、潜在的敵対的トレーニング（LAT）は有効なツールであることを示す。
大規模言語モデルにおけるウォーターマーク盗用
現在のウォーターマークスキームは以前よりも脆弱であり、スプーフィングとスクラビング攻撃が実質的に可能であることを示す。