Core Concepts
大規模言語モデル(LLMs)は、ゲーム分野に革新的な可能性をもたらすが、幻想や情報の誤りなどの制約も持っています。
Abstract
近年、大規模言語モデル(LLMs)に関する研究が急速に増加しており、その潜在能力が広範囲のアプリケーションやドメインで示されています。この論文では、LLMsがゲーム内およびゲーム開発プロセスで果たす役割を探求しました。LLMsは、プレイヤー、非プレイヤーキャラクター、プレイヤーアシスタントなどさまざまな役割を果たすことができます。また、LLMsを使用した自動デザイン支援や解説者としての応用も検討されています。しかし、LLMsは幻想や情報の誤りなどの制約も抱えており、特に長期的なエンゲージメントを必要とする役割ではその制限が顕著です。
Stats
GPT-2は117万から15億パラメータを持つ。
LLMsはGPTファミリー以外にもMistralやLlamaなど多様なモデルが存在する。
GPT-2はSokobanレベル生成に成功し、GPT-3は少数のトレーニングセットでも適切な結果を出せることが示されている。
Quotes
"大規模言語モデル(LLMs)は幻想や情報の誤りなどの制約も持っています。"
"LLMsは幻想や情報の誤りだけでなく、利用者意図を捉える能力にも苦労しています。"
"長期的な会話ほど、LLMが初期イベントを思い出す可能性は低くなります。"