AIエシックスにおける知的権力、客観性、ジェンダー:立地した不平の正当化

핵심 개념

AIエシックスの正当性は、量的な客観性を追求することで高められるが、これは立地した経験に基づく不平を排除する。

초록

本論文は、AIエシックスの労働における知的権力の階層を明らかにする。
まず、AIエシックスの労働は低い地位に置かれ、単なる「雑用」とみなされていることを示す。
次に、モデルカードの自動化など、倫理的評価を「客観的」なプロセスとして正当化しようとする取り組みを紹介する。しかし、これらの取り組みは、立地した経験に基づく不平を排除してしまう。
一方で、女性やマイノリティの参加者が自身の立地した経験から倫理的懸念を述べようとしても、しばしば正当化されないことを明らかにする。
最後に、参加者の中には、自身の具体的な経験に基づいた代替的なAIエシックスの実践を構築しようとする試みがあることを示す。
これらの知見を踏まえ、量的な客観性への執着を和らげ、その限界を明示する「謙虚な技術的実践」の必要性を提唱する。

통계

「多くの充填作業は主観的です。なぜなら、それは私の理解に基づいているからです。」
「ツールを使えば、これらの質問に客観的に答えられるはずです。」
「倫理的な懸念について、ほとんど議論されていません。主に技術的なことについて話し合っています。」

인용구

「倫理的な議論をするのは、主に技術的な作業の一部にすぎません。」
「倫理的な懸念について議論するのは、私たちのコミュニティでは行われていません。」
「私は、自分の経験から倫理的な懸念を述べようとしましたが、それは正当化されませんでした。」

핵심 통찰 요약

Epistemic Power, Objectivity and Gender in AI Ethics Labor

by David Gray W... 게시일 arxiv.org 04-11-2024

https://arxiv.org/pdf/2402.08171.pdf

더 깊은 질문

AIエシックスの実践において、立地した経験をどのように正当化し、主流化できるか。

AIエシックスの実践において、立地した経験を正当化し、主流化するためには、まず、参加者が自身の経験や立場からの知識を積極的に共有し、それを尊重する文化を醸成する必要があります。特定の立場や背景を持つ人々が、自身の経験を率直に表現し、それが議論や意思決定にどのように影響を与えるかを明確に示すことが重要です。さらに、立地した経験を持つ人々が、その経験を通じてもたらされる価値や洞察を積極的に強調し、他の参加者にその重要性を認識させる努力が必要です。このようなアプローチによって、立地した経験がAIエシックスの実践においてより広く受け入れられ、主流化される可能性が高まるでしょう。

量的な客観性を追求することで、AIエシックスの議論からどのような知識が排除されているか。

量的な客観性を追求することで、AIエシックスの議論から主に立地した経験や感性に基づく知識が排除されています。客観的な視点や数値に基づくアプローチが優先される傾向があり、それによって個人の経験や感情に基づく知識が軽視されたり無視されたりすることがあります。このようなアプローチは、特定の社会的背景や立場から生まれる知識を無視することで、AIエシックスの議論が偏ったり不完全になる可能性があります。したがって、量的な客観性だけでなく、立地した経験や感性に基づく知識も適切に取り入れることが重要です。

AIエシックスの実践と、他の社会的な不平等や抑圧との関係はどのようなものか。

AIエシックスの実践は、他の社会的な不平等や抑圧と密接に関連しています。特定の立場や背景を持つ人々がAIエシックスの議論や実践に参加する際、彼らの経験や立場が無視されたり軽視されたりすることがあります。これにより、既存の権力構造や偏見が再生産され、特定のグループが排除されたり不利益を被ったりする可能性があります。また、AIシステムや技術の開発過程において、特定の社会的集団に対する偏見や差別が組み込まれるリスクも存在します。そのため、AIエシックスの実践においては、社会的な不平等や抑圧を認識し、これらの要因を排除するための取り組みを積極的に推進する必要があります。