Core Concepts
Die Regulierung von erklärbarer Künstlicher Intelligenz (XAI) durch Behörden kann sowohl Unternehmen als auch Verbraucher schlechter stellen, selbst wenn die Absicht ist, das Gemeinwohl zu maximieren.
Abstract
Der Artikel untersucht die wirtschaftlichen Auswirkungen der Regulierung von erklärbarer Künstlicher Intelligenz (XAI) auf Unternehmen und Verbraucher.
Zunächst wird das Konzept von XAI erläutert - XAI sind Methoden, die darauf abzielen, die Entscheidungen von KI-Systemen für Nutzer verständlich zu machen. Der Artikel stellt fest, dass es zunehmend Forderungen nach Regulierung von KI und der Einführung von XAI-Pflichten gibt, um mehr Transparenz und Rechenschaftspflicht zu schaffen.
Der Artikel entwickelt dann ein spieltheoretisches Modell, in dem zwei Unternehmen in einem Duopol-Wettbewerb stehen und Produkte auf Basis von KI-Algorithmen anbieten. Die Unternehmen differenzieren sich dabei sowohl in der Produktqualität als auch in der Art der XAI-Erklärungen. Die Verbraucher haben heterogene Präferenzen für Qualität und Erklärungen.
Das Modell betrachtet zwei regulatorische Ansätze: Optionale XAI-Regulierung, bei der die Behörde das XAI-Niveau vorgibt, aber Unternehmen frei entscheiden können, ob sie XAI anbieten, und verpflichtende XAI-Regulierung, bei der Unternehmen XAI auf dem von der Behörde vorgegebenen Niveau anbieten müssen.
Die Ergebnisse zeigen, dass eine verpflichtende XAI-Regulierung nicht zwangsläufig zu einer Wohlfahrtsverbesserung führt. Unter bestimmten Bedingungen kann eine optionale XAI-Regulierung sogar bessere Ergebnisse für Unternehmen und Verbraucher liefern als eine verpflichtende Regulierung. Der Grund ist, dass optionale Regulierung den Unternehmen mehr Flexibilität gibt, sich über XAI zu differenzieren und so Preiskämpfe zu vermeiden.
Darüber hinaus zeigt der Artikel, dass eine vollständige Erklärung der KI-Entscheidungen (maximales XAI-Niveau) nicht unbedingt die beste Strategie ist - sowohl unter optionaler als auch unter verpflichtender Regulierung kann ein geringeres XAI-Niveau für Unternehmen und Verbraucher vorteilhafter sein.
Abschließend wird das Konzept der XAI-Fairness eingeführt und gezeigt, dass es unmöglich sein kann, XAI-Fairness zu garantieren, selbst unter verpflichtender Regulierung.
Stats
Die globale Marktgröße für XAI wird von 2021 bis 2026 voraussichtlich von 0,6 Milliarden US-Dollar auf 2,2 Milliarden US-Dollar wachsen, mit einer jährlichen Wachstumsrate von 29,5%.
Künstliche Intelligenz-Systeme haben in einigen Fällen zu verzerrten Ergebnissen geführt, z.B. bei der Gesichtserkennung oder der Kreditvergabe.
Regulierungen wie die DSGVO in der EU und das FCRA-Gesetz in den USA erfordern bereits gewisse Erklärungen von KI-Entscheidungen.
Quotes
"Manchmal ist dies kein Problem, weil die Folgen vernachlässigbar sein können (z.B. bei der E-Mail-Kategorisierung), oder weil Nutzer keine Erklärungen für KI-Ausgaben wünschen (z.B. Antworten von Sprachassistenten wie Siri oder Alexa)."
"Unsere Arbeit liefert unerwartet Erkenntnisse, die den gängigen Glauben in Frage stellen, dass eine verpflichtende XAI-Regulierung zu einer Wohlfahrtsverbesserung führt."