モバイルデバイスでの効率的で安全なLLMインファレンスに関する初見

モバイルデバイスでのLLMインファレンス時に発生するKVリークを防ぐため、TEEを活用したパーミュテーション手法を提案する。