Завантажити Linnk AI
•
Помічник з досліджень
>
Увійти
ідея
-
SVD-LLM: 대규모 언어 모델 압축을 위한 특이값 분해 기반 방법론
대규모 언어 모델 압축을 위한 특이값 분해 기반 방법론
SVD-LLM은 대규모 언어 모델 압축을 위한 새로운 특이값 분해 기반 방법론으로, 압축 손실을 최소화하는 데이터 화이트닝 기법과 압축 후 모델 파라미터 업데이트 기법을 제안한다.
대규모 언어 모델 압축을 위한 특이값 분해 기반 방법론
SVD-LLM은 대규모 언어 모델 압축을 위한 새로운 특이값 분해 기반 방법론으로, 압축 손실을 최소화하는 데이터 화이트닝 기법과 압축 후 모델 파라미터 업데이트 기법을 제안한다.
1
