Die Studie untersucht, wie der Kohlenstofffußabdruck der KI-Inferenz durch eine adaptive Modellauswahl in Abhängigkeit von der Kohlenstoffintensität des Stromnetzes reduziert werden kann.
Zunächst wird der Zusammenhang zwischen Modellgenauigkeit, Energieverbrauch und Kohlenstofffußabdruck für verschiedene Bilderkennungsmodelle analysiert. Es zeigt sich, dass genauere Modelle mit höherem Energieverbrauch und Kohlenstofffußabdruck einhergehen.
Basierend auf dieser Erkenntnis wird ein heuristischer Algorithmus entwickelt, der die Modellauswahl dynamisch an die Schwankungen der Kohlenstoffintensität im Tagesverlauf anpasst. In Zeiten hoher Kohlenstoffintensität werden weniger genaue, aber energieeffizientere Modelle verwendet, während in Zeiten niedriger Kohlenstoffintensität genauere Modelle zum Einsatz kommen.
Die Evaluation anhand von Twitter-Anfragedaten und historischen Kohlenstoffintensitätsdaten zeigt, dass dieser Ansatz den Kohlenstofffußabdruck im Vergleich zu statischen Modellkonfigurationen deutlich reduzieren kann, ohne die Genauigkeit übermäßig zu beeinträchtigen. Zudem wird eine neue Kennzahl, die "Kohlenstoffemissionseffizienz", eingeführt, um die Effektivität des Ansatzes quantifizieren zu können.
Die Autoren planen, den Ansatz auf weitere Anwendungsdomänen auszuweiten und ihn durch den Einsatz von Reinforcement Learning weiter zu optimieren.
To Another Language
from source content
arxiv.org
Key Insights Distilled From
by Jiwan Jung at arxiv.org 03-26-2024
https://arxiv.org/pdf/2403.15824.pdfDeeper Inquiries