Jugendliche als Peer-Auditoren: Teenager mit dem Algorithmus-Auditing von Maschinenlernungs-Anwendungen engagieren

Konsep Inti

Jugendliche können als Auditoren der Maschinenlernungs-Anwendungen ihrer Peers fungieren, um die undurchsichtigen inneren Abläufe und möglichen externen Auswirkungen algorithmischer Systeme besser zu verstehen.

Abstrak

Die Studie untersuchte, wie Jugendliche als Peer-Auditoren von Maschinenlernungs-Anwendungen fungieren können. In einem zweiwöchigen Workshop gestalteten und auditierten 13 Jugendliche im Alter von 14-15 Jahren gegenseitig ihre ML-Anwendungen.
In den Vor- und Nachinterviews wurden die Jugendlichen mit Auditing-Aufgaben konfrontiert, um zu untersuchen, wie sich ihre Identifizierung möglicher algorithmischer Voreingenommenheiten und Schäden sowie ihre Rückschlüsse auf Daten- und Modelldesign veränderten.
In den Nachinterviews reflektierten die Teilnehmer auch über die Vorteile des Auditing-Prozesses. Die Ergebnisse zeigen, dass nach dem Workshop alle Teilnehmer potenzielle algorithmische Voreingenommenheiten identifizierten und Rückschlüsse auf Daten- und Modelldesign-Probleme zogen. Mehr Jugendliche sprachen auch über Algorithmusgerechtigkeit und nächste Schritte zur weiteren Verbesserung der ML-Modelle. Darüber hinaus berichteten die Teilnehmer, dass das Auditing ihnen neue Perspektiven auf die Modell-Funktionalität und Ideen zur Verbesserung ihrer eigenen Modelle gab.

Statistik

Die Studie zeigt, dass in den Nachinterviews alle 13 Teilnehmer potenzielle algorithmische Voreingenommenheiten identifizieren konnten, verglichen mit 11 Teilnehmern in den Vorinterviews.
Die durchschnittliche Anzahl der von den Jugendlichen identifizierten Daten- und Modelldesign-Probleme stieg von 6,9 in den Vorinterviews auf 12,8 in den Nachinterviews.

Kutipan

"Ich denke, es ist mehr ein menschliches Problem als ein KI-Problem, weil es auf Bildern trainiert wird, und das sind die Bilder, die es gesehen hat."
"Ich fühle, dass es jetzt noch nicht schädlich ist. Aber wenn es sich weiterentwickelt, wird es das sein [...] wenn diese Probleme nicht angegangen werden, indem man mehr Diversität hinzufügt."
"Du bekommst auch verschiedene Standpunkte, weil die Leute so unterschiedlich denken, dass du etwas nicht bedacht hättest und das jetzt einbauen kannst."

Wawasan Utama Disaring Dari

Youth as Peer Auditors

by Luis... pada arxiv.org 04-10-2024

https://arxiv.org/pdf/2404.05874.pdf

Pertanyaan yang Lebih Dalam

Wie können Auditing-Aktivitäten in Lernumgebungen integriert werden, um die Entwicklung von Computational Empowerment bei Jugendlichen zu fördern?

Die Integration von Auditing-Aktivitäten in Lernumgebungen kann dazu beitragen, die Entwicklung von Computational Empowerment bei Jugendlichen zu fördern, indem sie ihnen ermöglicht, die inneren Arbeitsweisen von algorithmischen Systemen zu verstehen und kritisch zu hinterfragen. Hier sind einige Möglichkeiten, wie Auditing in Lernumgebungen integriert werden kann:

Praktische Workshops: Durch praktische Workshops, in denen Jugendliche selbst ML-Anwendungen entwerfen und auditieren, können sie ein tieferes Verständnis für algorithmische Systeme entwickeln und potenzielle Probleme identifizieren.

Kollaborative Projekte: Jugendliche können in kollaborativen Projekten zusammenarbeiten, um die Anwendungen ihrer Peers zu auditieren. Dies fördert den Austausch von Perspektiven und Ideen, was zu einem ganzheitlicheren Verständnis von algorithmischer Gerechtigkeit führen kann.

Reflexionsübungen: Nach dem Auditing-Prozess können Reflexionsübungen durchgeführt werden, um Jugendlichen zu helfen, über ihre Erfahrungen nachzudenken und zu verstehen, wie algorithmische Voreingenommenheiten und Ungerechtigkeiten ihr tägliches Leben beeinflussen können.

Einbeziehung von Experten: Die Einbeziehung von Experten aus dem Bereich der algorithmischen Gerechtigkeit kann Jugendlichen helfen, tiefergehende Einblicke in komplexe Themen zu erhalten und ihr Verständnis für die Auswirkungen von Algorithmen zu vertiefen.

Durch die Integration von Auditing-Aktivitäten in Lernumgebungen können Jugendliche nicht nur ihre technischen Fähigkeiten verbessern, sondern auch ein Bewusstsein für die sozialen und ethischen Implikationen von AI/ML-Systemen entwickeln.

Welche Rolle spielen die individuellen Identitäten und Erfahrungen der Jugendlichen bei der Interpretation algorithmischer Voreingenommenheiten und Ungerechtigkeit?

Die individuellen Identitäten und Erfahrungen der Jugendlichen spielen eine entscheidende Rolle bei der Interpretation algorithmischer Voreingenommenheiten und Ungerechtigkeiten. Hier sind einige Aspekte, die berücksichtigt werden sollten:

Persönliche Perspektiven: Die persönlichen Erfahrungen und Identitäten der Jugendlichen beeinflussen, wie sie algorithmische Voreingenommenheiten wahrnehmen. Zum Beispiel können Jugendliche mit unterschiedlichem kulturellem Hintergrund verschiedene Arten von Voreingenommenheiten identifizieren.

Soziale Kontexte: Die sozialen Kontexte, in denen Jugendliche aufwachsen, prägen ihr Verständnis von Gerechtigkeit und Ungerechtigkeit. Ihre Erfahrungen mit Diskriminierung und Ungleichheit können ihr Bewusstsein für algorithmische Ungerechtigkeiten schärfen.

Vorurteile und Stereotypen: Jugendliche können Vorurteile und Stereotypen in algorithmischen Systemen erkennen, die auf ihren eigenen Erfahrungen und Beobachtungen basieren. Diese persönlichen Einsichten können dazu beitragen, die Auswirkungen von Voreingenommenheiten besser zu verstehen.

Indem die individuellen Identitäten und Erfahrungen der Jugendlichen in den Diskurs über algorithmische Voreingenommenheiten einbezogen werden, können fundiertere und vielschichtigere Ansätze zur Bekämpfung von Ungerechtigkeiten entwickelt werden.

Wie können Auditing-Methoden, die bisher vor allem mit Erwachsenen untersucht wurden, an die Bedürfnisse und Fähigkeiten von Kindern und Jugendlichen angepasst werden?

Die Anpassung von Auditing-Methoden an die Bedürfnisse und Fähigkeiten von Kindern und Jugendlichen erfordert eine gezielte Herangehensweise. Hier sind einige Möglichkeiten, wie Auditing-Methoden für diese Zielgruppe angepasst werden können:

Verständliche Sprache: Auditing-Materialien sollten in einer klaren und verständlichen Sprache verfasst sein, die dem Entwicklungsstand der Jugendlichen entspricht. Komplexe Konzepte sollten in einfache Begriffe übersetzt werden.

Interaktive Aktivitäten: Jugendliche lernen am besten durch praktische Erfahrungen. Daher sollten Auditing-Methoden interaktive Aktivitäten und Spiele beinhalten, die ihr Engagement und ihre Motivation fördern.

Peer-to-Peer-Auditing: Jugendliche können voneinander lernen, indem sie sich gegenseitig auditieren. Peer-to-Peer-Auditing fördert die Zusammenarbeit, den Wissensaustausch und die Entwicklung von kritischen Denkfähigkeiten.

Berücksichtigung von Interessen: Auditing-Aktivitäten sollten die Interessen und Vorlieben der Jugendlichen berücksichtigen, um ihr Engagement zu steigern. Beispielsweise können Auditing-Aufgaben auf Themen basieren, die für Jugendliche relevant und ansprechend sind.

Durch die Anpassung von Auditing-Methoden an die spezifischen Bedürfnisse und Fähigkeiten von Kindern und Jugendlichen können sie effektiver in Lernumgebungen eingesetzt werden und dazu beitragen, ihr Verständnis für algorithmische Systeme und deren Auswirkungen zu vertiefen.