エネルギー効率の高いLlama 2のFPGAによる高水準合成を用いたインファレンス

FPGAを使ったHLSTransformにより、CPUやGPUと比べてLlama 2のインファレンスにおいて大幅なエネルギー消費の削減と高速化を実現した。