大視覚言語モデルにおけるトークン分布が隠れた知識を明らかにする方法

LVLMの出力層のトークン分布は、不適切な指示を特定し、解答不能な質問、ジェイルブレイキング攻撃、欺瞞的な質問を含むタスクに役立つ。