大規模言語モデルを用いたコンテキスト学習(ICL)は、教師あり学習とは異なり、少数の例示データを入力に付加することで、モデルの出力を制御することができる。ICLはk-NNのようなノンパラメトリックなアプローチに似ており、入力インスタンスに最も近い例示データを利用して予測を行う。この特性から、ICLは情報検索の問題と強い類似性を持つことが分かる。
大規模言語モデルを用いたコンテキスト学習は、多数のデモンストレーションを利用することで、従来の方法を上回る性能を発揮する。
