대규모 언어 모델 미세 조정을 위한 메모리 효율적인 레이어별 중요도 샘플링 기법 LISA

LISA는 대규모 언어 모델의 레이어별 중요도를 고려하여 메모리 효율적으로 모델을 미세 조정하는 기법이다. LISA는 LoRA 대비 성능이 우수하며 메모리 사용량도 낮다.