核心概念
大規模言語モデル(LLM)のエージェントシステムにおいて、ツール登録プロセスをエージェントの推論手順に統合することで、コンテキストの使用を最適化し、計算コストを大幅に削減できる。
要約
EcoAct: ツール登録を推論に統合した効率的なLLMエージェントシステム
本稿は、大規模言語モデル(LLM)を用いたエージェントシステムにおける、ツール利用の効率化に関する研究論文である。
近年のLLMの進歩により、外部ツールを用いて行動できるエージェントとしての活用が進んでいる。ツールを使用するには、ツール情報(ツール名、説明、入力パラメータの指示など)をLLMのコンテキストに登録する必要がある。しかし、従来の手法では、すべてのツール情報を無差別にコンテキストに追加し、複数の推論ステップにわたって保持していた。
この従来の手法には、以下の問題点がある。
ツール登録プロセスがエージェントにとって不透明であり、推論手順に統合されていない。
関連性の低いツール情報もコンテキストに保持されるため、コンテキストの長さが増大し、非効率になる。