Die Studie untersucht die Leistung des EAGLEEYES-Modells, des Gewinnermodells des HYPERVIEW-Wettbewerbs, das für den Einsatz auf dem INTUITION-1-Satelliten vorgesehen war. Durch den Einsatz von Shapley-Werten als erklärbares KI-Werkzeug konnten wir eine detaillierte Analyse des Modells durchführen und Schwachstellen aufdecken.
Die Analyse zeigte, dass das EAGLEEYES-Modell stark von einer begrenzten Anzahl von Merkmalen abhängig ist, was zu einer eingeschränkten Vorhersagespanne führt. Das Modell tendiert dazu, 90% der Werte in einem engen Bereich vorherzusagen und hat Schwierigkeiten mit Ausreißern.
Durch die Aggregation der Shapley-Werte nach Hyperspektralbändern und Datentransformationen konnten wir weitere Erkenntnisse gewinnen. Wir fanden heraus, dass Merkmale, die aus Spektralgradienten abgeleitet wurden, eine besonders wichtige Rolle für die Vorhersagen des EAGLEEYES-Modells spielen. Außerdem zeigte sich, dass Modelle, die räumliche Daten einbeziehen, stärker auf räumliche Merkmale zurückgreifen, was ihre Leistung verbessert.
Basierend auf diesen Erkenntnissen entwickelten wir eine Methode zur Modellpruning, die auf den Shapley-Werten aufbaut. Damit konnten wir Modelle mit deutlich weniger Eingabemerkmalen (bis zu 1% der ursprünglichen Merkmale) erstellen, die eine vergleichbare Leistung wie die Basismodelle erreichen. Dies ermöglicht die Entwicklung leichterer und schnellerer Modelle, die für den Einsatz auf Randgeräten wie Satelliten geeignet sind.
Insgesamt demonstriert unsere Studie, wie der Einsatz von erklärbarer KI das rote Teaming von Modellen für die Hyperspektralbildanalyse unterstützen und zu Verbesserungen führen kann.
Til et andet sprog
fra kildeindhold
arxiv.org
Vigtigste indsigter udtrukket fra
by Vlad... kl. arxiv.org 03-14-2024
https://arxiv.org/pdf/2403.08017.pdfDybere Forespørgsler