ヘイトと攻撃を混同する危険性についての主観的なイズム？

Conceitos essenciais

ヘイトスピーチの研究では、攻撃とヘイトを区別することが重要であり、これらを混同することは研究結果を無効化する可能性がある。

Resumo

自然言語処理の研究は、オンラインでの虐待検出などのタスクに注力してきた。異なる形式の差別や偏見（イズム）は、文化的背景や社会的関係によって形成される。イズムは集団レベルで共有されるステレオタイプであり、個人だけでなく集団全体が影響を受ける。一方、攻撃性は個人的な道徳的怒りや嫌悪感として理解され、主観的な経験に基づいて変動する。アノテーターの適格性は彼らの生活経験に依存し、特定の現象を正しく識別できるかどうかに影響を与える。イズムは文化的相対的概念であり、攻撃性は個人的主観体験であるため、これらを区別することが重要である。

Estatísticas

Hate speech 'attacks or uses pejorative or discriminatory language with reference to a person or a group on the basis of who they are' (UN), including subtle stereotyping.
We use 'orthagonality' in the philosophical sense to refer to concepts that differ in scope, content, and purpose.

Citações

"Judging whether a message contains hate speech is quite subjective, given the nature of the phenomenon." - Akhtar et al. (2021)
"Determining what is 'dirt' is a cultural process which strengthens communities and builds community cohesion." - Douglas (1978)

Principais Insights Extraídos De

Subjective $\textit{Isms}$? On the Danger of Conflating Hate and Offence in Abusive Language Detection

by Amanda Cerca... às arxiv.org 03-05-2024

https://arxiv.org/pdf/2403.02268.pdf

Perguntas Mais Profundas

研究では個々のアノテーター間の違いが重要視されていますが、この違いは実際にタスク全体にどれだけ影響を与えますか？

研究において、個々のアノテーター間の違いは重要な要素です。これらの違いは、特定の現象（例：イズムや攻撃性）を正確に識別する能力に直接影響します。異なる背景や経験を持つアノテーターが同じデータセットをラベリングする場合、その主観的見解や認識差異が生じる可能性があります。したがって、個々のアノテーター間で一貫性や合意が得られない場合、そのタスク全体への信頼性や精度に影響を及ぼすことも考えられます。

著者たちはイズムと攻撃性を分離することを提案していますが、このアプローチが実際のデータセット作成や分類スキーム設計にどのような影響を与える可能性がありますか

著者たちはイズムと攻撃性を分離することを提案していますが、このアプローチが実際のデータセット作成や分類スキーム設計にどのような影響を与える可能性がありますか？
イズムと攻撃性を分離する提案は重要です。このアプローチが実践される場合、データセット作成時に文化的背景や社会的条件からくるイズム（偏見・差別）と個人レベルで感じる攻撃性（不快さ・怒り）という概念を明確に区別しようとすることで、より客観的かつ包括的なデータ収集および分類スキーム設計が可能となります。具体的には、「何が攻撃的であるか」ではなく「何がイズムであるか」という基準から出発し、それぞれ異なったカテゴリーまたはラベル付け方法を導入することで混同せず明確化された情報収集および処理手法を構築できます。

異なる社会文化条件下でイズムが定義されていることから考えると、異なる地域や文化圏ではどのような差異が生じ得ますか

異なる社会文化条件下でイズム定義されていることから考えると、異なる地域や文化圏ではどのような差異が生じ得ますか？
社会文化条件下で定義されているイズムは地域ごとまたは文化圏ごとに大きく変動します。したがって、異なる地域や文化圏では以下のような差異・変動点等起き得ます：

言語表現: イズム関連用語やステレオタイプ表現は言語依存です。各国・地域ごとに使用されてきた歴史的背景からくみ取られた表現パターンも存在し、「何」また「どん床」問題も発生しう。
価値観: 各地域能価系統・伝統等根ざす価値観も反映しており，それ故，特定行為或人物評価基準等相対論争引起事柄多数存在。
政治風土: 支配政治勢力及公共興味団体活動形式等，各国家内部外部政治風土因子強制作用下，特殊種族或ジェンダグループ対立問題解決方針及措置策進展速度大幅度変わり得。
教育水準: 教育水準高低程度並学術普及率上昇傾向有無等因子通じ, 人々思惑意識形構造改革ペース早延長可否多岐。

これら差异点理解後, NLP技術開發者必須注意以上事柄, 考虑到当該技術应用时所在环境之实际情况，并灵活调整相关模型设计和数据处理方式以符合当地需求和期望。