安全で信頼できる大規模言語モデルの構築: 特権命令の優先順位付けによる LLM の強化

大規模言語モデルは、システムプロンプトと一般ユーザーからの入力を区別せず、低優先度の命令に従ってしまうことが脆弱性の根源となっている。命令階層を導入することで、高優先度の命令を確実に優先し、低優先度の命令を無視することができるようになる。