大規模言語モデルの複雑な制約付き命令フォロー能力の向上

大規模言語モデルの命令フォロー能力を向上させるため、Coniferと呼ばれる新しい命令チューニングデータセットを提案する。Coniferは、GPT-4を用いて生成された複雑な制約付き命令を含み、段階的な学習スキームを採用することで、モデルの命令フォロー能力を大幅に改善する。