大規模言語モデルの命令チューニングにおける脆弱性の分析

攻撃者は少数の悪意のある命令を挿入するだけで、大規模言語モデルの振る舞いを操作することができる。