Baixe o Linnk AI
•
Assistente de Pesquisa
>
Entrar
insight
-
大型語言模型在邊緣運算中的無線推論優化
自適應層級分割以提升邊緣運算中大型語言模型的無線推論效能:基於模型的強化學習方法
提出一個基於模型的強化學習框架,動態優化大型語言模型在用戶設備和邊緣計算資源之間的分割點,以提高在無線網絡條件下的推論效能和計算負載平衡。
1