Khái niệm cốt lõi
AIアラインメントの実践において、西洋中心主義的な道徳哲学の押し付けが問題となっている。代わりに、文脈依存的で多様な価値観を受け入れるアプローチが必要である。
Tóm tắt
本論文では、AIアラインメントにおける植民地主義的な問題点を指摘し、それを克服するための脱植民地化アプローチを提案している。
まず、AIアラインメントの現状を概説する。大手テクノロジー企業が提供する閉鎖的なLLMでは、企業の価値観が押し付けられる傾向にある。これは、知識の植民地化の一形態である。
さらに、西洋中心主義的な道徳哲学がAIアラインメントの基盤となっていることを批判する。絶対的な善悪観を押し付けるのではなく、文脈依存的な「ヴィシェーシャ・ダルマ」の概念が重要である。
そこで、3つの脱植民地化のための要件を提示する。1) LLMを開放し、コミュニティの価値観に合わせてカスタマイズできること、2) 普遍的な価値観を前提としないこと、3) 命令形式以外の価値表現を受け入れること。
最後に、ヒンドゥー教の道徳哲学がこれらの要件を満たすことを示し、具体的な技術的アプローチを提案する。LLMのアラインメントにおいて、オープンなエコシステムの構築と、文脈依存的な「ヴィシェーシャ・ダルマ」の実現が重要である。
Thống kê
LLMのアラインメントには大量のデータと計算リソースが必要であり、ほとんどのアプリケーション開発者には手の届かないコストがかかる。
閉鎖的なLLMでは、企業の価値観が押し付けられる傾向にある。
Trích dẫn
「LLMに特定の道徳教義に沿った設計をすることは、他者の同意しない価値観と判断を押し付けることになる。強力な技術にとって、真の道徳性をコード化しようとすることは、結局のところ支配の形態につながる可能性がある。」