オープンソースの対話型ツールLMトランスペアレンシーツール - 変換言語モデルの内部動作を分析する

LMトランスペアレンシーツールは、変換言語モデルの内部動作を詳細に分析し、モデルの振る舞いを個々のアテンションヘッドやフィードフォワードニューロンまで追跡できるオープンソースのインタラクティブツールです。