深度學習模型日益複雜,GPU 架構不斷更新,準確預測模型在不同 GPU 上的性能變得至關重要。NeuSight 架構通過將深度學習核心分解成較小的工作集(tile),並利用機器學習模型預測每個 tile 的設備利用率,從而實現更精準的 GPU 性能預測。