人間のAI開発プロセスへの潜在的な影響を特定する

核心概念

AI開発プロセスにおける差別的技術の創造を特定する。

要約

この論文では、Sylvia Wynterの生物中心的な人間ジャンルの定義とその排除に焦点を当て、AI開発プロセスがどのように差別的技術の創造を促進しているかを明らかにしています。6つの段階に分けられた典型的なAIベース技術開発手順を紹介し、Wynterの生物中心的な人間がどのように再現されているかを理解し、黒人性と「理想的」な人間から黒人性が区別される方法を特定します。さらに、マージナライズされた人々に不均等な影響を与えていることや、AI開発サイクルで実際に変更を促す解決策を提案しています。
1. 導入

Sylvia Wynterの生物中心的な人間ジャンルは全体的な存在が一つの疑似想像上の個人に平坦化されることを説明します。
生物中心的なManは全体的な人口を適切に表現しておらず、これは白人至上主義、異性愛至上主義、資本主義が作成した条件から来ます。
2. 生物中心的Manジャンル理解

西洋白人・中流階級・男性が特徴付けられており、「Man」という用語で示されます。
黒人や他多くは生物中心的Manの定義から除外されており、社会や社会技術システムもそれらを考慮して構築されていません。
3. AI開発プロセス

典型的なAI開発プロセスは6つの段階（問題特定、開発プロセス選択、データセット開発、モデル開発、展開とリスク評価、統合と監視）で構成されます。
プロセスはMicrosoftやCRISP-DMモデルから得た共通テーマや共有手順で形成されています。
4. 顔識別技術への懸念

顔識別技術は肌色が暗い場合に誤って同一視する可能性が高く、これは法執行機関へ危険な状況をもたらす可能性があります。
5. 解決策創出

AI開発プロセス内で黒人性から生物中心Manを取り除く方法について考察しました。
技術制作時に社会へ与える影響やその責任意識が重要であること強調しました。

統計

AI設計者は$2/時間でコンテンツ整理作業員（主に有色人種）から収集したGPT-4データセット使用（Perrigo, B., 2023）
黒皮膚トーン者ほど顔識別技術で誤同一視率高（Najibi, A., 2020）

引用

"進歩は前進する動きであり，進歩者自身だけでは他者退行では真正進歩ではありません。" - 引用元不明
"何故何か作成されているか尋ねることが重要です。" - 引用元不明

抽出されたキーインサイト

Identifying Potential Inlets of Man in the Artificial Intelligence Development Process

by Deja Workman... 場所 arxiv.org 03-25-2024

https://arxiv.org/pdf/2403.14658.pdf

深掘り質問

AI倫理原則はデータやアルゴリズムバイアスを高リスク段階と位置付けますが，それ以前からこれらインレット（入口）が見つかっています．この段階で改革措置を取ることは非常識です．しかし，何故何か作成されているか尋ねること自体も大事ではありませんか？

AI開発プロセスの初期段階で改革措置を取ることが重要な理由は、問題特定の過程において歴史的差別に根ざしているためです。長年にわたり黒人コミュニティーが被害者となってきたシステム的人種差別の長期的影響により、私たちは本質的に搾取されやすくなっています。技術分野でも同様であり、AI開発サイクル内で黒人の身体だけが犠牲にされていく限り、有害な技術を生み出し続けます。したがって、社会的影響を考慮する力を持つ立場の人々が自らの仕事の社会的意味合いを認識するよう奨励（または義務化・要求）する必要性があります。我々は創造行為を追及し直さねばならず、その中であらゆる追加被害や破壊行為から免れ得る可能性もあることを理解しなければなりません。進歩は前進する動きから定義されますし、「一部の進歩」では他者退行しか引き起こさず真正進展ではありません。

どうして何か作成されているか尋ねること自体も大事ではありませんか？

「何故何か作成されているか」という問い掛け自体も極めて重要です。現代社会では利益至上主義や組織・企業優先主義が時折個々人や特定グループへ与えられそうも無視され得ます。「OpenAI」事件（2022年）でも明確化した通り、「Chat-GPT」用データセット「GPT-4」生成過程で低賃金労働者（多くは有色人種）にトラウマ含有コンテンツ処理させた例等から明白です。「OpenAI」従業員数ドル/時間以下報酬受領しつつ暴力・性虐待関連内容含む膨大文書読み漁っただけでも職場ストレス後遺症証言多数存在します。「Chat-GPT」普及度減少知識公表後「OpenAI」未だ制裁面対応不在点示します。“貧困層有色人種”被害無視具現化再確認可見点です。
Pre-published draft - To be published in proceedings of and presented as poster at CSCW 2023 (Minneapolis, MN, USA)
この段階で究極目指す変更源泉起因地域巡回招致能力向上促進（また強制＆要求）、技術産物所産物残滓各面了解形塑支援方策推移始動必然性存じ上げました。「科学技術」「利益」「不均等影響」と比較評価施策提供時“マージナライズド”集団異常反映率増幅危険背景下汚染予防手法欠如挙国共通問題点浸食深刻度増加突出箇所当然存在します。