대규모 언어 모델과 프롬프트 선택을 통한 비용 효율적인 추론

TREACLE은 사용자의 예산과 지연 시간 제약 하에서 정확도를 최대화하기 위해 대규모 언어 모델과 프롬프트를 동적으로 선택합니다.