Effiziente Verarbeitung und Analyse von Inhalten zur Gewinnung von Erkenntnissen mithilfe eines Pipeline-Inferenz-Frameworks für vielseitige CNNs auf verschiedenen mobilen Geräten

PICO ist ein Pipeline-Kooperationsframework, das die Inferenz vielseitiger CNNs auf verschiedenen mobilen Geräten beschleunigt, indem es (1) einen generischen Graphpartitionsalgorithmus verwendet, der die Charakteristiken jeder gegebenen CNN berücksichtigt und sie in eine Sequenz von Modellstücken mit geeigneter Granularität orchestriert, und (2) einen Viele-zu-Viele-Zuordnungsalgorithmus einsetzt, der die beste Pipeline-Konfiguration für heterogene Geräte erzeugt.