大規模基盤モデルの効率的なファインチューニング: バタフライ因子分解を用いた直交ファインチューニング

大規模基盤モデルを効率的にファインチューニングする新しい手法であるBOFTを提案する。BOFTは直交行列をバタフライ構造で効率的に表現することで、パラメータ数を大幅に削減しつつ、優れた汎化性能を実現する。