Wie Objektivität und Geschlecht die Arbeit an der KI-Ethik beeinflussen

Core Concepts

Die Arbeit an der KI-Ethik wird oft als subjektiv und minderwertiger im Vergleich zur "objektiven" technischen Arbeit angesehen. Einige versuchen, die KI-Ethik durch Quantifizierung und Automatisierung zu legitimieren, während andere versuchen, ihre Erfahrungen und verkörperte Perspektive einzubringen, was jedoch häufig delegitimiert wird.

Abstract

Die Studie untersucht, wie verschiedene epistemische Ansätze die Legitimität von Arbeiten zur KI-Ethik beeinflussen.
Es zeigt sich, dass Arbeiten zur KI-Ethik oft als "Pflichtaufgabe" und minderwertiger im Vergleich zur "echten" technischen Arbeit angesehen werden. Einige Teilnehmer versuchen, die KI-Ethik durch Quantifizierung und Automatisierung zu legitimieren, um sie als objektiv und autoritativ darzustellen. Andere versuchen, ihre Erfahrungen und verkörperte Perspektive einzubringen, was jedoch häufig delegitimiert wird.
Die Autorin argumentiert, dass diese Bestrebungen, Objektivität und Autorität zu erlangen, die Marginalisierung verkörperter und situierter Erfahrungen in der KI-Ethik verstärken. Stattdessen schlägt sie "demütige technische Praktiken" vor, die die epistemischen Grenzen der Quantifizierung offen legen und Raum für andere Wissensformen schaffen.

Stats

Keine relevanten Statistiken oder Kennzahlen extrahiert.

Quotes

"Uh, nein. Nein. Ich denke nicht. [...] Es ist meistens technisch, weißt du, Zeug und, und Informationen über Modelle austauschen."
"Es ist hauptsächlich ich in meinem Team, der durch die [Veröffentlichungsschritte] geht [...] Ich musste es für ein Produkt herausfinden und danach war es immer, [] du weißt, wie es geht. Du machst das schon."

Key Insights Distilled From

Epistemic Power, Objectivity and Gender in AI Ethics Labor

by David Gray W... at arxiv.org 04-11-2024

https://arxiv.org/pdf/2402.08171.pdf

Deeper Inquiries

Wie können wir die Legitimität verkörperter und situierter Erfahrungen in der KI-Ethik stärken, ohne dabei in Relativismus zu verfallen?

Um die Legitimität verkörperter und situierter Erfahrungen in der KI-Ethik zu stärken, ohne in Relativismus zu verfallen, ist es entscheidend, einen Ansatz zu verfolgen, der auf feministischer Objektivität basiert. Dies bedeutet, dass wir anerkennen, dass alle Erkenntnisse sozial verortet sind und dass verschiedene Perspektiven und Erfahrungen gleichermaßen gültig sein können. Es geht darum, eine pluralistische epistemische Praxis zu fördern, die verschiedene Formen des Wissens integriert, ohne dabei die Objektivität vollständig aufzugeben.
Ein wichtiger Schritt wäre die Anerkennung und Wertschätzung von verkörperten Erfahrungen als authentische Formen des Wissens in der KI-Ethik. Dies könnte durch die Einbeziehung von Personen mit unterschiedlichen Hintergründen und Erfahrungen in die Diskussionen und Entscheidungsprozesse innerhalb der KI-Ethik erreicht werden. Es ist wichtig, dass diese Personen nicht nur als "Quoten" oder "Exoten" betrachtet werden, sondern als Experten für ihre eigenen Erfahrungen und Perspektiven.
Darüber hinaus sollte die KI-Ethik einen Raum schaffen, in dem verschiedene Formen des Wissens gleichberechtigt nebeneinander existieren können, ohne dass eine Form als überlegen oder absolut betrachtet wird. Dies erfordert eine kontinuierliche Reflexion über die epistemischen Annahmen und Praktiken, die in der KI-Ethik verwendet werden, und die Bereitschaft, alternative Formen des Wissens anzuerkennen und zu integrieren.

Wie können wir die Grenzen der Quantifizierung in der KI-Ethik aufzeigen, ohne dass dies als Ablehnung der Technik an sich verstanden wird?

Um die Grenzen der Quantifizierung in der KI-Ethik aufzuzeigen, ohne dass dies als Ablehnung der Technik interpretiert wird, ist es wichtig, auf die partielle und kontextuelle Natur quantitativer Daten hinzuweisen. Dies bedeutet, dass wir anerkennen, dass quantifizierte Daten zwar wertvoll sind, aber auch begrenzt in ihrer Fähigkeit, die Komplexität und Vielschichtigkeit ethischer Fragen und sozialer Realitäten vollständig zu erfassen.
Ein Ansatz könnte darin bestehen, die Grenzen der Quantifizierung in der KI-Ethik explizit zu benennen und zu betonen, dass quantitative Daten nur einen Teil des Gesamtbildes liefern. Dies könnte durch die Integration qualitativer Methoden und Ansätze in die ethische Bewertung von KI-Systemen erfolgen, um eine umfassendere und nuanciertere Perspektive zu gewährleisten.
Es ist auch wichtig, die Rolle von quantitativen Daten in der KI-Ethik kritisch zu reflektieren und zu hinterfragen, insbesondere in Bezug auf Machtstrukturen und epistemische Hierarchien. Indem wir die Grenzen der Quantifizierung aufzeigen, können wir dazu beitragen, eine sensiblere und inklusivere Herangehensweise an ethische Fragen in der KI zu fördern, ohne dabei die Technik als Ganzes abzulehnen.

Welche Rolle können Aktivisten und Gemeinschaften außerhalb des akademischen und technologischen Bereichs bei der Umgestaltung der epistemischen Hierarchien in der KI-Ethik spielen?

Aktivisten und Gemeinschaften außerhalb des akademischen und technologischen Bereichs können eine entscheidende Rolle bei der Umgestaltung der epistemischen Hierarchien in der KI-Ethik spielen, indem sie alternative Perspektiven und Formen des Wissens einbringen. Diese Akteure können dazu beitragen, die Vielfalt der Stimmen und Erfahrungen in der KI-Ethik zu erweitern und sicherzustellen, dass auch marginalisierte Gruppen und Gemeinschaften gehört werden.
Durch ihre Aktivismus können sie auf ethische Fragen aufmerksam machen, die von traditionellen akademischen und technologischen Kreisen möglicherweise übersehen oder ignoriert werden. Sie können dazu beitragen, die Diskussionen über KI-Ethik zu diversifizieren und sicherzustellen, dass auch diejenigen, die direkt von KI-Systemen betroffen sind, eine Stimme haben.
Darüber hinaus können Aktivisten und Gemeinschaften außerhalb des etablierten akademischen und technologischen Rahmens dazu beitragen, die Machtstrukturen und epistemischen Hierarchien in der KI-Ethik zu hinterfragen und zu destabilisieren. Indem sie alternative Formen des Wissens und der Expertise einbringen, können sie dazu beitragen, die Vorherrschaft bestimmter Wissensformen zu überwinden und eine inklusivere und gerechtere KI-Ethik zu fördern.