Faire und transparente Kommunikation zwischen Interessengruppen für KI-Entscheidungen im öffentlichen Sektor

Core Concepts

Unzureichende Kommunikation und Zusammenarbeit zwischen verschiedenen Interessengruppen führen zu Fehlinterpretationen und Fehlnutzung von KI-Systemen im öffentlichen Sektor.

Abstract

Die Studie untersuchte die Kommunikationsprozesse und Herausforderungen zwischen verschiedenen Interessengruppen bei der Entwicklung und Nutzung von KI-Systemen im öffentlichen Sektor. Aus den Interviews konnten drei zentrale Muster identifiziert werden:

Entwickler spielen die dominante Rolle in den meisten Phasen des KI-Lebenszyklus, obwohl ihnen oft die Anleitung und Expertise von Fachexperten und politischen Entscheidungsträgern fehlt.

Endnutzer und politische Entscheidungsträger verfügen oft nicht über die technischen Fähigkeiten, um die Grenzen und Unsicherheiten der Systeme zu verstehen, was zu Fehlinterpretationen führen kann.

Bürger als diejenigen, die von den KI-Systemen betroffen sind, sind strukturell über den gesamten Lebenszyklus hinweg abwesend, was zu Entscheidungen führen kann, die ihre relevanten Bedürfnisse nicht berücksichtigen.

Diese Kommunikationsherausforderungen deuten auf unzureichende Modellgovernance hin und können zu Fehlinterpretation und Fehlnutzung von KI-Systemen mit kritischen Auswirkungen für die betroffenen Bevölkerungsgruppen führen. Der entwickelte Analyserahmen kann dabei helfen, solche Probleme frühzeitig zu erkennen, bevor die Systeme implementiert werden.

Stats

"Entwickler spielen die dominanteste Rolle in allen Phasen des KI-Lebenszyklus."
"Endnutzer und politische Entscheidungsträger verfügen oft nicht über die technischen Fähigkeiten, um die Grenzen und Unsicherheiten der Systeme zu verstehen."
"Bürger als diejenigen, die von den KI-Systemen betroffen sind, sind strukturell über den gesamten Lebenszyklus hinweg abwesend."

Quotes

"Wir verlassen uns auf das Urteil der technischen Kollegen, wann das Modell gut genug ist, aber das ist ein grauer Bereich."
"Es ist schwierig für sie zu verstehen, dass es viele verschiedene Interpretationen gibt. Was es wirklich bedeutet, ein 'wahrer Positiver' zu sein, ob diese Person wirklich ein Betrüger ist oder ob diese Person die Formulare einfach nicht richtig ausfüllen konnte."
"Es gibt keine direkte Bürgerbeteiligung."

Key Insights Distilled From

Analysing and Organising Human Communications for AI Fairness-Related Decisions

by Mirthe Dankl... at arxiv.org 04-02-2024

https://arxiv.org/pdf/2404.00022.pdf

Deeper Inquiries

Wie können Bürger als direkt Betroffene stärker in den gesamten KI-Lebenszyklus eingebunden werden, um faire Entscheidungen sicherzustellen?

Um Bürger als direkt Betroffene stärker in den gesamten KI-Lebenszyklus einzubinden und faire Entscheidungen sicherzustellen, können verschiedene Maßnahmen ergriffen werden:

Partizipative Entscheidungsfindung: Bürger sollten frühzeitig in den Entscheidungsprozess einbezogen werden, insbesondere bei der Formulierung von Zielen, der Auswahl von Daten und der Bewertung von Ergebnissen. Dies kann durch Bürgerbeteiligungsverfahren, öffentliche Konsultationen und Bürgerforen erreicht werden.

Transparenz und Aufklärung: Es ist wichtig, den Bürgern zu erklären, wie KI-Systeme funktionieren, welche Daten verwendet werden und wie Entscheidungen getroffen werden. Dies kann durch leicht verständliche Informationen, Schulungen und Informationskampagnen erfolgen.

Feedbackmechanismen: Es sollten Mechanismen eingerichtet werden, über die Bürger Feedback zu KI-Systemen geben können. Dies ermöglicht es den Entwicklern, auf Bedenken und Vorschläge der Bürger einzugehen und die Systeme entsprechend anzupassen.

Ethikkommissionen und Bürgerbeiräte: Die Einrichtung von unabhängigen Ethikkommissionen und Bürgerbeiräten kann dazu beitragen, die Interessen und Bedenken der Bürger in den Entscheidungsprozess einzubeziehen und sicherzustellen, dass KI-Systeme im öffentlichen Interesse eingesetzt werden.

Wie können Endnutzer und politische Entscheidungsträger ohne technischen Hintergrund besser befähigt werden, die Grenzen und Unsicherheiten von KI-Systemen zu verstehen?

Endnutzer und politische Entscheidungsträger ohne technischen Hintergrund können besser befähigt werden, die Grenzen und Unsicherheiten von KI-Systemen zu verstehen, indem folgende Maßnahmen ergriffen werden:

Schulungen und Weiterbildungen: Es sollten Schulungen und Weiterbildungen angeboten werden, die den Endnutzern und politischen Entscheidungsträgern grundlegende Kenntnisse über KI-Systeme vermitteln. Dies kann helfen, Missverständnisse zu reduzieren und ein besseres Verständnis für die Funktionsweise von KI-Systemen zu schaffen.

Klare Kommunikation: Technische Konzepte und Ergebnisse sollten in einer klaren und verständlichen Sprache kommuniziert werden, um sicherzustellen, dass auch Personen ohne technischen Hintergrund die Informationen verstehen können. Dies kann dazu beitragen, Missverständnisse zu vermeiden und das Vertrauen in KI-Systeme zu stärken.

Expertenberatung: Die Einbindung von Experten mit technischem Hintergrund in Entscheidungsprozesse kann dazu beitragen, die Grenzen und Unsicherheiten von KI-Systemen zu erläutern und fundierte Entscheidungen zu treffen. Diese Experten können komplexe technische Konzepte verständlich erklären und Empfehlungen für den Umgang mit Unsicherheiten geben.

Welche Anreize und Strukturen müssen geschaffen werden, damit Entwickler, Fachexperten und politische Entscheidungsträger über den gesamten Prozess hinweg eng zusammenarbeiten können?

Um eine enge Zusammenarbeit zwischen Entwicklern, Fachexperten und politischen Entscheidungsträgern über den gesamten KI-Lebenszyklus hinweg zu fördern, können folgende Anreize und Strukturen geschaffen werden:

Interdisziplinäre Teams: Durch die Bildung interdisziplinärer Teams, die Entwickler, Fachexperten und politische Entscheidungsträger umfassen, können verschiedene Perspektiven und Fachkenntnisse zusammengeführt werden. Dies fördert den Austausch von Informationen und die gemeinsame Entscheidungsfindung.

Klare Kommunikationswege: Es sollten klare Kommunikationswege und -protokolle etabliert werden, um den Informationsaustausch zwischen den verschiedenen Akteuren zu erleichtern. Regelmäßige Meetings, Berichte und Feedbackschleifen können dazu beitragen, dass alle Beteiligten auf dem gleichen Stand sind und gemeinsam an Lösungen arbeiten.

Anreize für Zusammenarbeit: Anreize wie gemeinsame Ziele, Anerkennung von Leistungen und finanzielle Anreize können die Motivation zur Zusammenarbeit erhöhen. Durch die Schaffung einer kooperativen und unterstützenden Arbeitsumgebung können die Akteure ermutigt werden, ihr Fachwissen und ihre Fähigkeiten zum Wohl des Projekts einzubringen.