핵심 개념
대규모 언어 모델은 통신 기술 표준 문서 참조를 위한 신뢰할 수 있는 도구로 활용될 수 있으며, 다양한 응용 분야에서 활용될 수 있다.
초록
이 논문은 대규모 언어 모델(LLM)을 3GPP 표준 참조를 위한 질의응답 보조 도구로 활용하는 방안을 제시한다. 주요 내용은 다음과 같다:
벤치마크 및 성능 평가 방법론 제시: 다양한 LLM 모델의 3GPP 문서 참조 성능을 평가하기 위한 벤치마크 및 측정 방법을 제안한다.
데이터 전처리 및 fine-tuning 방법 제시: 한 LLM 모델에 대해 데이터 전처리와 fine-tuning을 수행하고, 이를 통해 모든 LLM의 응답 정확도를 높일 수 있는 지침을 제공한다.
TeleRoBERTa 모델 소개: 파라미터 수가 훨씬 적지만 기존 LLM과 유사한 성능을 보이는 TeleRoBERTa 모델을 제안한다.
실험 결과, LLM은 통신 기술 문서 참조를 위한 신뢰할 수 있는 도구로 활용될 수 있으며, 따라서 문제 해결, 유지보수, 네트워크 운영, 소프트웨어 개발 등 다양한 응용 분야에서 활용될 수 있다.
통계
3GPP 릴리스 간 토큰(단어) 수가 지속적으로 증가하고 있다.
릴리스 8(2006-01-23)부터 릴리스 17(2018-06-15)까지 토큰 수가 증가했다.
인용구
"LLM은 통신 기술 문서 참조를 위한 신뢰할 수 있는 도구로 활용될 수 있으며, 따라서 다양한 응용 분야에서 활용될 수 있다."