المفاهيم الأساسية
大規模言語モデルを用いたコモンセンス生成の多様性を向上させる手法を提案する。
الملخص
本論文では、大規模言語モデルを用いたコモンセンス生成の多様性を向上させる手法を提案している。
まず、デフォルトのプロンプトを用いて大規模言語モデルにコモンセンス生成を行わせると、生成された文章の多様性が低くなる傾向がある。そこで、本手法では2段階のプロンプトを用いる。
第1段階では、大規模言語モデルに複数の文章を生成させる。生成された文章の多様性が低い場合、第2段階のプロンプトを用いて、さらに多様な文章の生成を促す。
この手法により、生成された文章の質を維持しつつ、多様性も向上させることができる。実験の結果、提案手法は既存手法と比べて、多様性と質のバランスが良好であることが示された。
また、提案手法で生成された文章を使ってモデルを訓練することで、既存のコモンセンス生成モデルの多様性も向上させることができることが確認された。
الإحصائيات
コモンセンス生成タスクでは、入力された概念を含む文章を生成することが求められる。
生成された文章の多様性は重要であり、単一の視点に偏らずに、様々な観点を表現できることが望ましい。
大規模言語モデルを用いたコモンセンス生成では、生成された文章の質は高いが、多様性が低くなる傾向がある。
اقتباسات
"コモンセンス推論は、日常生活で遭遇する概念について論理的な推論を行う能力であり、知的エージェントにとって重要な特性とされている。"
"入力された概念には、多様な関係性が存在し、異なる推論経路から様々な文章を生成することができる。"
"多様性は、自然言語生成の多くのアプリケーションにおいて重要な要素である。"