言語モデルのコンピューティング最適サイズスケーリング、創発、およびプラトーを説明する情報理論

言語モデルのサイズ増加に伴う3つの現象(コンピューティング最適サイズスケーリング、創発能力、パフォーマンスのプラトー)を、情報理論と確率グラフ理論を用いて統一的に説明する。