Główne pojęcia
Penance, ein neuer inhaltsbasierter und kostengünstiger Edge-Assistenz-Rahmen, optimiert die Modellauswahl und Kompressionseinstellungen, um die Inferenzkosten zu minimieren, während die erforderliche Genauigkeit innerhalb der verfügbaren Bandbreitenbeschränkungen erfüllt wird.
Streszczenie
Die Studie untersucht die Herausforderungen und Auswirkungen dynamischer Videoinhalte auf Edge-unterstützte Systeme für semantische Videosegmentierung (VSS). Um diese Probleme zu lösen, präsentiert sie Penance, einen neuartigen, kostengünstigen Edge-Assistenz-Rahmen für VSS auf ressourcenbeschränkten IoT-Geräten.
Penance besteht aus drei Hauptkomponenten:
- Der Bitratenschätzer nutzt die Vorhersagemechanismen des H.264/AVC-Codecs, um die Bandbreitennutzung für jede Kompressionseinstellung unter Verwendung von Rohvideoframes vorherzusagen.
- Der Leistungsencoder extrahiert Merkmale aus den Softmax-Wahrscheinlichkeiten des Edge-VSS-Modells, um die Laufzeitleistung zu repräsentieren.
- Der CRL-Adapter ist ein Deep Reinforcement Learning-Modell, das die geschätzte Bandbreitennutzung, historische Konfigurationen und Leistungseinbettung nutzt, um die Kompressionseinstellungen und die Edge-Modellversion für das nächste Videosegment auszuwählen, um die Inferenzkosten zu minimieren, während die Genauigkeits- und Bandbreitenbeschränkungen eingehalten werden.
Die Experimente zeigen, dass Penance die Inferenzkosten deutlich senkt, während es alle Beschränkungen strikt einhält.
Statystyki
Die durchschnittliche relative Bitratenfehlerquote des vorgeschlagenen Bitratenschätzers beträgt 17,22%, während die Baseline-Methode 25,07% erreicht.
Penance verbraucht nur 6,8% mehr Rechenleistung als die optimale Strategie.
Cytaty
Keine relevanten Zitate gefunden.