تنزيل Linnk AI
•
مساعد بحث
>
سجل دخولك
رؤى
-
Llama 2のFPGAによる高水準合成を用いたエネルギー効率的なインファレンス
エネルギー効率の高いLlama 2のFPGAによる高水準合成を用いたインファレンス
FPGAを使ったHLSTransformにより、CPUやGPUと比べてLlama 2のインファレンスにおいて大幅なエネルギー消費の削減と高速化を実現した。
1