메모리 제한 LLM에서 무한 문맥 처리: InfiniPot

InfiniPot은 고정된 메모리 제약 내에서 사전 학습된 LLM이 광범위한 문맥을 효율적으로 관리할 수 있게 하는 새로운 KV 캐시 제어 프레임워크이다.