Regulatorische Lücke schließen: Über den AIA hinaus ein EU-weites KI-Prüfökosystem mit Einbeziehung der Zivilgesellschaft schaffen

Core Concepts

Der Europäische Gesetzgeber muss ein umfassendes KI-Prüfökosystem schaffen, das neben Selbstkontrollen und Regulierungsbehörden auch unabhängige Drittprüfungen durch Forschung und Zivilgesellschaft einbezieht, um Rechenschaftspflicht und Aufsicht über KI-Systeme zu gewährleisten.

Abstract

Der Artikel analysiert die derzeitigen Regulierungsvorschläge der EU, den Digital Services Act (DSA) und den Artificial Intelligence Act (AIA), im Hinblick auf die Rolle von Drittprüfungen und den Zugang zu Daten und Modellen für Forschung und Zivilgesellschaft.
Kernpunkte:

Der DSA verpflichtet sehr große Online-Plattformen (VLOPs) und sehr große Suchmaschinen (VLOSEs) zu jährlichen unabhängigen Prüfungen, um die Einhaltung der Regulierungsauflagen zu überprüfen. Zudem ermöglicht er Forschern den Datenzugang zu diesen Plattformen.
Der AIA sieht hingegen keine Drittprüfungen und keinen Datenzugang für Forscher und Zivilgesellschaft vor, sondern fokussiert auf Konformitätsbewertungen durch benannte Stellen.
Der Artikel argumentiert, dass ein umfassendes KI-Prüfökosystem, das Compliance und Aufsicht gewährleistet, Drittprüfungen durch unabhängige Forscher und Zivilgesellschaft erfordert. Der AIA weist hier eine regulatorische Lücke auf, die geschlossen werden muss.

Stats

"Diskriminierende Praktiken und Undurchsichtigkeit im Wohlfahrtsbetrug-ADM der Stadt Rotterdam wurden aufgedeckt."
"Es wurde gezeigt, dass YouTube in Richtung rechtsextremer Inhalte auf der Plattform tendiert."
"Wir haben schädliche Voreingenommenheiten in ML-Modellen wie Stable Diffusion, Gesichtserkennung oder ChatGPT gesehen."

Quotes

"Wer wird die internen Prüfer prüfen?"
"Regulierungsinspektionen - von einer unabhängigen staatlichen Stelle durchgeführt - sind extern zur entsendenden Organisation."
"Drittprüfungen durch Forscher und Zivilgesellschaft zielen darauf ab, eine materielle Veränderung der Situation herbeizuführen (z.B. ein Produktupdate, eine Politikänderung oder einen Rückruf), um die von ihnen vertretenen Schäden zu minimieren."

Key Insights Distilled From

Addressing the Regulatory Gap

by Davi... at arxiv.org 03-14-2024

https://arxiv.org/pdf/2403.07904.pdf

Deeper Inquiries

Wie kann sichergestellt werden, dass Drittprüfungen durch Forschung und Zivilgesellschaft tatsächlich unabhängig und wirksam sind?

Um sicherzustellen, dass Drittprüfungen durch Forschung und Zivilgesellschaft tatsächlich unabhängig und wirksam sind, müssen verschiedene Maßnahmen ergriffen werden:

Transparenz und Zugang zu Daten: Unternehmen sollten verpflichtet werden, den Prüfern vollständigen Zugang zu den relevanten Daten und Modellen zu gewähren, um eine gründliche Prüfung zu ermöglichen. Dies sollte auch die Offenlegung von Algorithmen und Entscheidungsprozessen umfassen.

Unabhängigkeit der Prüfer: Es ist wichtig sicherzustellen, dass die Prüfer unabhängig von den Unternehmen sind, die sie überprüfen. Dies kann durch klare Richtlinien zur Unabhängigkeit, Konfliktoffizierung und Ethikstandards gewährleistet werden.

Qualifikation und Expertise: Die Prüfer sollten über die erforderliche Qualifikation und Expertise im Bereich KI und Algorithmusprüfung verfügen, um eine fundierte Bewertung durchführen zu können.

Regelmäßige Überprüfung und Berichterstattung: Es sollte eine regelmäßige Überprüfung der Prüfungsprozesse und -ergebnisse durch unabhängige Stellen geben, um sicherzustellen, dass die Prüfungen den erforderlichen Standards entsprechen. Die Ergebnisse sollten transparent veröffentlicht werden.

Rechtliche Rahmenbedingungen: Es sollten klare gesetzliche Vorgaben und Richtlinien für Drittprüfungen festgelegt werden, um sicherzustellen, dass sie effektiv und unabhängig durchgeführt werden.

Welche Anreize oder Sanktionen könnten Unternehmen dazu bringen, Drittprüfungen zu ermöglichen und deren Empfehlungen umzusetzen?

Um Unternehmen dazu zu bringen, Drittprüfungen zu ermöglichen und deren Empfehlungen umzusetzen, könnten folgende Anreize und Sanktionen eingesetzt werden:

Finanzielle Anreize: Unternehmen könnten finanzielle Anreize erhalten, wenn sie Drittprüfungen zulassen und die Empfehlungen umsetzen. Dies könnte in Form von Steuervergünstigungen, Fördermitteln oder anderen finanziellen Anreizen erfolgen.

Reputation und Vertrauen: Unternehmen, die sich freiwillig Drittprüfungen unterziehen und transparent mit den Ergebnissen umgehen, könnten ihr Image und Vertrauen bei den Verbrauchern stärken. Dies könnte als Anreiz dienen, um positive Publicity zu generieren.

Regulatorische Sanktionen: Unternehmen, die sich der Drittprüfung verweigern oder Empfehlungen nicht umsetzen, könnten mit regulatorischen Sanktionen belegt werden. Dies könnte Bußgelder, Betriebsuntersagungen oder andere rechtliche Konsequenzen umfassen.

Zertifizierungsprogramme: Die Einführung von Zertifizierungsprogrammen für Unternehmen, die sich Drittprüfungen unterziehen und bewährte Praktiken implementieren, könnte als Anreiz dienen, um die Qualität und Sicherheit ihrer KI-Systeme zu verbessern.

Wie können die Erkenntnisse aus Drittprüfungen am besten genutzt werden, um die Regulierung von KI-Systemen kontinuierlich zu verbessern?

Die Erkenntnisse aus Drittprüfungen können auf verschiedene Weisen genutzt werden, um die Regulierung von KI-Systemen kontinuierlich zu verbessern:

Informationsaustausch: Die Ergebnisse der Drittprüfungen sollten mit Regulierungsbehörden, Forschungseinrichtungen und anderen relevanten Akteuren geteilt werden, um ein umfassendes Verständnis der Risiken und Herausforderungen im Zusammenhang mit KI-Systemen zu entwickeln.

Aktualisierung von Richtlinien: Die Erkenntnisse aus Drittprüfungen können dazu beitragen, bestehende Richtlinien und Vorschriften zu überarbeiten und anzupassen, um auf neue Entwicklungen und Risiken in der KI-Technologie zu reagieren.

Entwicklung von Best Practices: Basierend auf den Erkenntnissen aus Drittprüfungen können Best Practices und Leitlinien für die Entwicklung, Implementierung und Überwachung von KI-Systemen entwickelt werden, um deren Sicherheit und Verlässlichkeit zu gewährleisten.

Schulung und Sensibilisierung: Die Erkenntnisse aus Drittprüfungen können genutzt werden, um Schulungsprogramme und Sensibilisierungskampagnen für Unternehmen, Entwickler und Nutzer von KI-Systemen zu entwickeln, um das Bewusstsein für die Bedeutung von Sicherheit und Ethik in der KI zu stärken.