LoRAアプローチを用いた適応型タスクプランニングによる混合専門家モデル（AT-MoE）

本稿では、従来の混合専門家モデル（MoE）におけるタスク特化学習と解釈可能性の課題を、LoRAを用いた適応型タスクプランニングMoE（AT-MoE）アーキテクチャによって解決することを提案している。