
SuperLoRA offers a parameter-efficient framework for fine-tuning large models, unifying and extending LoRA variants with high flexibility.


coremsg

superlora-parameter-efficient-unified-adaptation-of-multi-layer-attention-modules


SuperLoRA: Parameter-Efficient Unified Adaptation of Multi-Layer Attention Modules



提案されたSuperLoRAフレームワークは、低パラメータ領域でのファインチューニングにおいて優れた結果を達成しました。
