Die Gefahr der Vermischung von Hass und Beleidigung in der Erkennung von Missbrauchssprache

Core Concepts

Die Vermischung von Hass und Beleidigung kann die Ergebnisse der Hassspracherkennung ungültig machen.

Abstract

Abstract:

NLP-Forschung berücksichtigt Annotator-Subjektivität.
Subjektivität kann für Aufgaben wie Sentimentanalyse geeignet sein, aber nicht für Hassspracherkennung.
Aufruf zur Trennung von Hass und Beleidigung in zukünftiger Arbeit.
Einführung:

NLP-Forscher konzentrieren sich auf Online-Missbrauchserkennung.
Unterschiedliche Formen von Diskriminierung werden als "Isms" betrachtet.
Annotator-Unstimmigkeiten deuten auf Subjektivität hin.
Verständnis der Subjektivität:

Subjektivität in der Annotation wird diskutiert.
Relativismus und kulturelle Perspektiven werden beleuchtet.
Hassspracherkennung wird als subjektive Aufgabe betrachtet.
Stereotypen als sozial definierte Artefakte:

Isms basieren auf Stereotypen und Vorurteilen.
Stereotypen sind kollektive Konzepte.
Gruppenidentitäten formen Stereotypen und soziale Beziehungen.
Akzeptanz als soziale Norm:

Einige Isms sind weniger akzeptabel geworden.
Unterscheidung zwischen wohlwollenden und wissenschaftlichen Isms.
Soziale Bewegungen beeinflussen die Akzeptanz von Isms.
Trennung von Isms und Beleidigung:

Isms sind kulturell definiert, Beleidigung ist subjektiv.
Unterscheidung zwischen Isms und Beleidigung notwendig.
Empfehlung zur Annotierung von Online-Missbrauch.
Annotator-Kompetenz:

Annotatoren sind durch ihre Lebenserfahrungen geprägt.
Unterschiede in der Kompetenz der Annotatoren beeinflussen die Erkennung von Hasssprache.
Annotator-Dissonanz kann politisch motiviert sein.
Neue Formulierung von Isms als kulturelle Normen:

Isms als kulturelle Normen verstehen.
Grenzen der Akzeptanz als kulturelle Normen betrachten.
Empfehlungen zur Gestaltung von Schemata für Isms.
Empfehlungen:

Trennung von Isms und Beleidigung in der Annotierung.
Annotatoren mit relevantem Profil rekrutieren.
Annotatoren die Möglichkeit geben, fehlende Lebenserfahrung anzugeben.
Schlussfolgerung:

Annotator-Unterschiede sind auf individuelle Empfindungen zurückzuführen.
Gesellschaftliche Normen beeinflussen die Erkennung von Isms.
Wichtigkeit der Trennung von individuellen Unterschieden und inhärenter Subjektivität.

Stats

"Hasssprache 'greift oder verwendet abwertende oder diskriminierende Sprache in Bezug auf eine Person oder eine Gruppe aufgrund dessen, wer sie sind' (UN), einschließlich subtiler Stereotypisierung."
"Wir verwenden 'Orthogonalität' im philosophischen Sinne, um auf Konzepte zu verweisen, die sich in Umfang, Inhalt und Zweck unterscheiden."

Quotes

"Wir argumentieren, dass die Hasshaftigkeit einer Aussage unabhängig von der Position eines Lesers ist, ob sie in einem bestimmten öffentlichen Forum erlaubt sein sollte."
"Isms sind kulturell definiert, Beleidigung ist eine subjektive Erfahrung."
"Wir empfehlen, dass das Schema so gestaltet wird, dass diese Konzepte sorgfältig abgegrenzt werden, indem z. B. separate Kategorien erstellt und getrennt gekennzeichnet werden."

Key Insights Distilled From

Subjective $\textit{Isms}$? On the Danger of Conflating Hate and Offence in Abusive Language Detection

by Amanda Cerca... at arxiv.org 03-05-2024

https://arxiv.org/pdf/2403.02268.pdf

Deeper Inquiries

Wie können Annotatoren mit relevantem Profil rekrutiert werden, um die Erkennung von Isms zu verbessern?

Um die Erkennung von Isms durch Annotatoren zu verbessern, ist es entscheidend, Personen mit relevantem Profil gezielt zu rekrutieren. Dies kann durch verschiedene Maßnahmen erreicht werden:

Gezielte Auswahlkriterien: Definieren Sie klare Auswahlkriterien für Annotatoren, die über ein tiefes Verständnis der isms-Thematik verfügen. Dies könnte beinhalten, dass Annotatoren persönliche Erfahrungen oder eine akademische Hintergrund in den relevanten Bereichen haben.

Schulungen und Sensibilisierung: Bieten Sie Schulungen an, um Annotatoren über die verschiedenen Formen von Isms aufzuklären und sie für die subtilen Nuancen und Kontexte zu sensibilisieren, die bei der Erkennung von isms relevant sind.

Diversität und Inklusion: Stellen Sie sicher, dass die Annotatoren eine vielfältige Gruppe repräsentieren, um unterschiedliche Perspektiven und Erfahrungen einzubeziehen. Dies kann dazu beitragen, blinde Flecken zu minimieren und eine umfassendere Erkennung von Isms zu gewährleisten.

Feedback und Überprüfung: Implementieren Sie Mechanismen zur kontinuierlichen Überprüfung und Rückmeldung der Annotatorenleistung. Dies ermöglicht es, Annotatoren zu unterstützen, ihr Verständnis zu vertiefen und ihre Fähigkeiten in der Erkennung von Isms zu verbessern.

Durch die gezielte Rekrutierung und Schulung von Annotatoren mit relevantem Profil können NLP-Modelle effektiver in der Erkennung von Isms eingesetzt werden.

Welche Auswirkungen hat die Trennung von Isms und Beleidigung auf die Entwicklung von NLP-Modellen?

Die Trennung von Isms und Beleidigung hat mehrere Auswirkungen auf die Entwicklung von NLP-Modellen:

Präzisere Modellierung: Durch die klare Unterscheidung zwischen Isms und Beleidigung können NLP-Modelle präzisere und differenziertere Ergebnisse liefern. Dies ermöglicht eine genauere Identifizierung von diskriminierendem Verhalten und eine gezielte Bekämpfung von Isms.

Verbesserte Generalisierung: Indem Isms als kulturell geprägte Normen betrachtet werden und Beleidigung als individuell subjektives Konzept, können NLP-Modelle besser generalisieren und unterschiedliche Kontexte und Perspektiven berücksichtigen.

Ethik und Verantwortung: Die Trennung von Isms und Beleidigung in NLP-Modellen trägt dazu bei, ethische Bedenken zu adressieren und die Verantwortung der Modelle bei der Erkennung von diskriminierendem Verhalten zu betonen. Dies fördert eine verantwortungsbewusste Nutzung von NLP-Technologien.

Verbesserte Anpassungsfähigkeit: NLP-Modelle, die Isms und Beleidigung klar unterscheiden können, sind besser in der Lage, sich an sich verändernde gesellschaftliche Normen anzupassen und auf neue Formen von diskriminierendem Verhalten zu reagieren.

Durch die Berücksichtigung der Trennung von Isms und Beleidigung können NLP-Modelle effektiver und ethischer gestaltet werden, um den Herausforderungen im Bereich der Online-Diskriminierung gerecht zu werden.

Inwieweit können gesellschaftliche Normen die Erkennung von Isms beeinflussen, und wie können diese in der Praxis berücksichtigt werden?

Gesellschaftliche Normen spielen eine entscheidende Rolle bei der Erkennung von Isms, da sie die Definitionen von akzeptablem und inakzeptablem Verhalten in einer Gesellschaft festlegen. Diese Normen können die Wahrnehmung von Isms beeinflussen, indem sie bestimmen, was als diskriminierend oder beleidigend angesehen wird.
In der Praxis können gesellschaftliche Normen in der Erkennung von Isms berücksichtigt werden, indem:

Kulturelle Sensibilität: NLP-Modelle sollten kulturell sensibel gestaltet werden, um die Vielfalt von Normen und Werten in verschiedenen Gesellschaften zu berücksichtigen. Dies erfordert eine eingehende Analyse der lokalen Kontexte und Normen, um angemessen auf Isms reagieren zu können.

Kollaboration mit Experten: Zusammenarbeit mit Experten aus den Bereichen Soziologie, Genderstudien und Ethik kann dazu beitragen, gesellschaftliche Normen zu verstehen und in die Entwicklung von NLP-Modellen zu integrieren. Dies ermöglicht eine fundierte und kontextualisierte Erkennung von Isms.

Feedbackmechanismen: Implementierung von Feedbackmechanismen, um Anpassungen an sich verändernde gesellschaftliche Normen zu ermöglichen. Durch kontinuierliches Monitoring und Anpassen der Modelle können sie auf aktuelle Entwicklungen und Veränderungen in den Normen reagieren.

Transparenz und Ethik: Gewährleistung von Transparenz und ethischem Handeln bei der Erkennung von Isms. Dies beinhaltet die Offenlegung der zugrunde liegenden Normen und Werte, die die Modellentscheidungen beeinflussen, sowie die Berücksichtigung der potenziellen Auswirkungen auf verschiedene Bevölkerungsgruppen.

Durch die Berücksichtigung gesellschaftlicher Normen in der Erkennung von Isms können NLP-Modelle besser auf die komplexen und vielschichtigen Herausforderungen im Bereich der Online-Diskriminierung reagieren.