Eine mehrsprachige Perspektive auf die Untersuchung von Geschlechtervorurteilen

Core Concepts

Diese Dissertation untersucht die Nuancen, wie Geschlechtervorurteile durch Sprache und in Sprachmodellen zum Ausdruck kommen.

Abstract

Diese Dissertation erweitert die Forschung zu Geschlechtervorurteilen auf mehrsprachige Kontexte und betont die Bedeutung einer mehrsprachigen und multikulturellen Perspektive für das Verständnis gesellschaftlicher Vorurteile. In dieser Arbeit wende ich einen interdisziplinären Ansatz an, der Erkenntnisse aus der Computerlinguistik mit anderen Disziplinen wie Politikwissenschaft und Geschichte verbindet, um Geschlechtervorurteile in natürlicher Sprache und Sprachmodellen zu untersuchen.
Im Bereich der Computerlinguistik hat diese Dissertation zur Erstellung von Datensätzen aus verschiedenen Domänen, einschließlich sozialer Medien und historischer Zeitungen, geführt, um Geschlechtervorurteile zu analysieren. Zu den methodischen Beiträgen gehören die Einführung von Maßen für intersektionale Vorurteile in natürlicher Sprache und eine kausale Studie zum Einfluss des grammatischen Geschlechts eines Substantivs auf die Wahrnehmung durch Menschen. Im Bereich der Methoden zum Sondieren von Sprachmodellen trägt diese Dissertation neue Methoden zum Sondieren nach linguistischen Informationen und gesellschaftlichen Vorurteilen in ihren Darstellungen bei. Die Beiträge umfassen zwei unterschiedliche Methodologien zur Erstellung von Datensätzen. Die erste Methode verwendet eine einfache Vorlagenstruktur, die es ermöglicht, Wörter direkt neben Entitätsnamen zu generieren, um die Assoziationen von Sprachmodellen mit diesen Entitäten zu messen. Die zweite Methode umfasst das Sammeln von Stereotypen und einer Reihe von Identitäten, die verschiedenen gesellschaftlichen Kategorien angehören, um einen Sondierungsdatensatz zu erstellen, mit dem die Assoziationen von Sprachmodellen mit gesellschaftlichen Gruppen und Identitäten innerhalb dieser Gruppen analysiert werden können. Die methodischen Beiträge reichen von einem latenten Variablenmodell, das für das Sondieren linguistischer Informationen entwickelt wurde, bis hin zu einem neuartigen Maß zur Identifizierung breiterer gesellschaftlicher Vorurteile über Geschlecht hinaus. Insgesamt hat diese Dissertation dazu beigetragen, unser Verständnis der Methoden zur Analyse sowie der Verbreitung von Geschlechtervorurteilen in natürlicher Sprache und Sprachmodellen zu vertiefen.

Stats

Geschlechtervorurteile können von subtilen sexistischen Bemerkungen und geschlechtsspezifischen Stereotypen bis hin zu offener Hassrede reichen.
Ignorieren von Online-Missbrauch hat nicht nur Auswirkungen auf die betroffenen Einzelpersonen, sondern auch breitere gesellschaftliche Folgen, wie die Entmutigung der Beteiligung und Sichtbarkeit von Frauen in der Öffentlichkeit.
Diese Dissertation erweitert die Forschung zu Geschlechtervorurteilen auf mehrsprachige Kontexte und betont die Bedeutung einer mehrsprachigen und multikulturellen Perspektive für das Verständnis gesellschaftlicher Vorurteile.

Quotes

"Tyle wiemy o sobie, ile nas sprawdzono."

Wisława Szymborska
"Wir kennen uns selbst nur, soweit wir untersucht wurden."
Eigene Übersetzung

Key Insights Distilled From

A Multilingual Perspective on Probing Gender Bias

by Karo... at arxiv.org 03-19-2024

https://arxiv.org/pdf/2403.10699.pdf

Deeper Inquiries

Wie können wir die Auswirkungen von Geschlechtervorurteilen in Sprache und Sprachmodellen auf die Beteiligung und Sichtbarkeit von Frauen in der Öffentlichkeit weiter untersuchen?

Um die Auswirkungen von Geschlechtervorurteilen in Sprache und Sprachmodellen auf die Beteiligung und Sichtbarkeit von Frauen in der Öffentlichkeit weiter zu untersuchen, können verschiedene Forschungsansätze verfolgt werden:

Analyse von Sprachdaten: Durch die Untersuchung von großen Textkorpora können spezifische sprachliche Muster und Vorurteile identifiziert werden, die Frauen benachteiligen oder stereotype Darstellungen verstärken.

Probing von Sprachmodellen: Mittels Probing-Methoden können wir die internen Repräsentationen von Sprachmodellen analysieren, um zu verstehen, wie Geschlechtervorurteile in ihren Modellen eingebettet sind und wie sie sich auf die Generierung von Text auswirken.

Entwicklung von Bias-Messungen: Es können spezifische Metriken und Benchmarks entwickelt werden, um systematisch Geschlechtervorurteile in Sprache und Sprachmodellen zu quantifizieren und zu vergleichen.

Multilinguale Untersuchungen: Die Auswirkungen von Geschlechtervorurteilen können in verschiedenen Sprachen und kulturellen Kontexten untersucht werden, um ein umfassenderes Verständnis zu erlangen.

Interdisziplinäre Zusammenarbeit: Durch die Zusammenarbeit mit Experten aus verschiedenen Disziplinen wie Linguistik, Soziologie und Ethik können wir ein ganzheitliches Bild der Auswirkungen von Geschlechtervorurteilen in Sprache und Technologie erhalten.

Durch die Kombination dieser Ansätze können wir die Auswirkungen von Geschlechtervorurteilen in Sprache und Sprachmodellen auf die Beteiligung und Sichtbarkeit von Frauen in der Öffentlichkeit weiter erforschen und Maßnahmen zur Verbesserung der Fairness und Gleichberechtigung entwickeln.

Welche Gegenargumente lassen sich zu den in dieser Arbeit präsentierten Erkenntnissen über Geschlechtervorurteile in Sprache und Sprachmodellen formulieren?

Einige mögliche Gegenargumente zu den Erkenntnissen über Geschlechtervorurteile in Sprache und Sprachmodellen könnten sein:

Kulturelle Unterschiede: Ein Gegenargument könnte darauf hinweisen, dass Geschlechtervorurteile in Sprache und Technologie durch kulturelle Unterschiede und historische Kontexte geprägt sind und daher nicht universell gelten.

Individuelle Verantwortung: Es könnte argumentiert werden, dass die Verantwortung für die Bekämpfung von Geschlechtervorurteilen in erster Linie bei den Individuen liegt, die die Technologie nutzen, anstatt bei den Entwicklern von Sprachmodellen.

Technologische Neutralität: Ein weiteres Gegenargument könnte behaupten, dass Sprachmodelle und Technologien grundsätzlich neutral sind und nur die vorhandenen Daten widerspiegeln, ohne absichtlich Geschlechtervorurteile zu verstärken.

Komplexität der Sprache: Es könnte argumentiert werden, dass die Analyse von Geschlechtervorurteilen in Sprache und Sprachmodellen aufgrund der Vielschichtigkeit und Subjektivität von Sprache und Bedeutung eine Herausforderung darstellt.

Wie hängt die Untersuchung von Geschlechtervorurteilen in Sprache und Sprachmodellen mit der breiteren Debatte über Fairness und Ethik in der Künstlichen Intelligenz zusammen?

Die Untersuchung von Geschlechtervorurteilen in Sprache und Sprachmodellen ist eng mit der breiteren Debatte über Fairness und Ethik in der Künstlichen Intelligenz verbunden, da sie aufzeigt, wie Technologien so gestaltet werden können, dass sie gerecht und ethisch verantwortlich sind. Einige Verbindungen zwischen der Untersuchung von Geschlechtervorurteilen und der Debatte über Fairness und Ethik sind:

Bias-Erkennung und -Bekämpfung: Die Analyse von Geschlechtervorurteilen in Sprache und Sprachmodellen trägt dazu bei, systematische Verzerrungen und Diskriminierungen aufzudecken und Maßnahmen zur Bekämpfung von Bias zu entwickeln.

Transparenz und Rechenschaftspflicht: Die Untersuchung von Geschlechtervorurteilen fördert die Transparenz in der Entwicklung von Sprachtechnologien und fordert die Verantwortlichen zur Rechenschaft für die Auswirkungen ihrer Modelle auf.

Ethik und Gerechtigkeit: Die Auseinandersetzung mit Geschlechtervorurteilen in Sprache und Technologie ist ein ethisches Gebot, um sicherzustellen, dass KI-Systeme fair und gerecht für alle Geschlechter sind und keine Diskriminierung verstärken.

Durch die Integration von Geschlechterforschung in die Debatte über Fairness und Ethik in der Künstlichen Intelligenz können wir eine inklusive und gerechte Technologielandschaft schaffen, die die Vielfalt und Gleichberechtigung aller Menschen respektiert.