深層学習のトレーニングと推論におけるGPUパフォーマンス予測：NeuSightフレームワークの紹介

深層学習モデルのGPUパフォーマンスを予測するフレームワーク「NeuSight」は、従来の手法よりも高い精度を実現します。これは、GPU実行を小さなタイルに分解し、機械学習モデルとGPUの性能法則を組み合わせて、タイルレベルでの利用率と遅延を予測することで実現されます。