CoRAST ist ein Framework, das Foundation Models (FMs) nutzt, um die Analyse korrelierter heterogener Daten in Cyber-Physischen Systemen (CPS) und dem Internet der Dinge (IoT) zu verbessern.
Das Framework besteht aus zwei Hauptkomponenten:
Globales Repräsentationslernen auf Serverseite: Ein FM wird auf historischen Umgebungsdaten vortrainiert und feinabgestimmt, um globale Repräsentationen zu lernen, die die Korrelationen in den Daten erfassen.
Lokales Lernen mit globalem Kontext auf Clientseite: Die Clients integrieren die vom Server bereitgestellten globalen Repräsentationen in ihre lokalen Modelle, um ihre spezifischen Aufgaben unter Berücksichtigung des breiteren Umgebungsverständnisses zu lösen.
Durch diese Aufteilung können die ressourcenbeschränkten Endgeräte von den Erkenntnissen des großen FM-Modells auf dem Server profitieren, ohne es selbst ausführen zu müssen. CoRAST ermöglicht so verteiltes Lernen unter Berücksichtigung komplexer Datenkorrelationen, ohne die Rechenressourcen der Endgeräte zu überlasten.
Die Evaluation auf realen Wetterdaten zeigt, dass CoRAST die Vorhersagefehler im Vergleich zu Basislinien um bis zu 50,3% reduzieren kann, indem es die Korrelationen in den heterogenen Daten effektiv nutzt.
To Another Language
from source content
arxiv.org
Key Insights Distilled From
by Yi Hu,Jinhan... at arxiv.org 03-28-2024
https://arxiv.org/pdf/2403.18451.pdfDeeper Inquiries