大言語モデルの推論プロセスを可視化し、効率的な推論スキームを開発するための一般的な枠組み

本論文は、大言語モデルの推論プロセスを可視化し、より効率的で生産的な推論スキームを開発するための一般的な枠組みを提案する。具体的には、推論プロセスを表す様々なトポロジー(チェイン、ツリー、グラフ)を分析し、それらの表現方法、導出方法、探索スケジュールなどの重要な側面を明らかにする。この枠組みを用いて、既存の推論スキームを分類・分析し、性能や効率性の違いを明らかにする。