大言語モデルの安全性を脅かす新たな「脱獄」攻撃手法「Crescendo」の紹介

Crescendo は、大言語モデルの安全性を脅かす新たな多段階の脱獄攻撃手法である。従来の脱獄手法とは異なり、Crescendo は見かけ上無害な入力を使用し、段階的に有害な出力を引き出すことができる。