人間中心から社会中心の人工知能へ：破壊的イベントを通じた ChatGPT の影響評価

核心概念

ChatGPTのような大規模言語モデルは、個人レベルだけでなく、社会集団、制度、規範、慣習にも影響を与えるため、AI開発においては、人間中心主義的なアプローチだけでなく、社会中心主義的な視点を取り入れる必要がある。

要約

本稿では、大規模言語モデル（LLM）および対話型AIであるChatGPTが社会に与える影響について、人間中心主義的な従来のAI評価の限界を指摘し、社会中心主義的な枠組みの必要性を論じている。

従来のAI評価では、バイアス、有害性、「ハルシネーション」といった、個人に対するリスクや安全性の観点からの評価が中心であった。しかし、ChatGPTのような社会規模のテクノロジーは、社会集団、制度、規範、慣習にも影響を与えるため、個人レベルの評価だけでは不十分である。

本稿では、ChatGPTによって引き起こされた3つの「破壊的イベント」を事例として、社会中心主義的なAI評価の重要性を示している。

ケーススタディ1：名誉毀損訴訟と法への影響

オーストラリアのブライアン・フッド氏が、ChatGPTによって過去の汚職事件への関与に関する虚偽の情報を拡散されたとして、OpenAI社を相手取り名誉毀損訴訟を起こした事例。この事例は、AIが生み出した虚偽情報に対する法的責任を問うものであり、AI開発における透明性と説明責任の重要性を示唆している。

ケーススタディ2：教育機関における盗用問題

ChatGPTを用いた盗用が教育機関で問題となっており、剽窃検出ソフトTurnitinの有効性が問われている。この事例は、AI技術の進歩が教育機関の評価システムに根本的な変革を迫る可能性を示唆しており、新しい評価方法の開発や教育倫理の再構築が求められている。

ケーススタディ3：職場におけるデータプライバシー問題

従業員が業務でChatGPTを使用する際に、企業秘密や個人情報などの機密情報を入力してしまうケースが増加しており、企業はデータプライバシーの保護に頭を悩ませている。この事例は、AIの利用が職場環境における情報管理やセキュリティ対策に新たな課題を突きつけていることを示唆しており、企業はAI利用に関する明確なガイドラインを策定し、従業員への教育を徹底する必要がある。

これらの事例は、AI開発において、個人レベルの倫理だけでなく、社会全体への影響を考慮した社会中心主義的なアプローチが不可欠であることを示している。AI研究者や開発者は、社会科学者や倫理学者と連携し、AI技術が社会に与える影響を多角的に評価し、潜在的なリスクを軽減するための対策を講じる必要がある。

統計

2023年1月時点で、ChatGPTは月間アクティブユーザー数が1億人に達し、「史上最速で成長している消費者向けアプリケーション」となった。
2023年1月のStudy.comの調査によると、教育者の21％がChatGPTを使用して授業をサポートしたことがある一方で、生徒の89％以上が宿題を完了するためにChatGPTを使用したことを認め、48％がテスト、小テスト、またはエッセイに使用したことがあると回答している。
OpenAIの分類子は完全に信頼できるわけではなく、AIによって書かれたテキストの26％を「AIによって書かれた可能性が高い」と正しく識別する一方で、人間によって書かれたテキストをAIによって書かれたものとして誤ってラベル付けすることが9％の確率で発生する。
FishBowlの2023年2月の調査によると、職場でChatGPTを使用している労働者の70％が、そのことを雇用主に告げていなかった。

引用

「ユーザーの観察」「ユーザビリティテスト」といったユーザーエクスペリエンスデザインの手法を用いることで、人間の能力を増幅・強化する製品を開発する。
「実際、たとえ私がそれを禁止しなかったとしても、おそらく私は彼らを止めることはできなかったでしょう。」
「私たちは、教育者が、生徒が管理された環境で自分の理解を示す機会を与えるようなアプローチをとることを推奨します。」
「私たちの分類子は完全に信頼できるわけではありません。(中略)[それは]AIによって書かれたテキストの26％(真陽性)を「AIによって書かれた可能性が高い」と正しく識別しますが、人間によって書かれたテキストをAIによって書かれたものとして誤ってラベル付けすることが9％の確率で発生します(偽陽性)。」

抽出されたキーインサイト

From human-centered to social-centered artificial intelligence: Assessing ChatGPT's impact through disruptive events

by Skyler Wang,... 場所 arxiv.org 10-28-2024

https://arxiv.org/pdf/2306.00227.pdf

深掘り質問

ChatGPTのような対話型AIの普及は、表現の自由やプライバシーの保護といった基本的人権にどのような影響を与えるのだろうか？

ChatGPTのような対話型AIの普及は、表現の自由とプライバシーの保護という基本的人権に複雑かつ多面的な影響を与える可能性があり、プラス面とマイナス面の両方を考慮する必要があります。
表現の自由への影響：

プラス面: ChatGPTは、誰でも利用できる情報発信のツールとなり、従来のメディアの制約を受けずに多様な意見や考え方を発信する機会を拡大する可能性があります。これは、特に政治的または社会的に抑圧されたコミュニティや個人が自分たちの声を届けるための強力な手段となりえます。
マイナス面: ChatGPTは、悪意のあるアクターによって、誤った情報や偏った情報を拡散する目的で悪用される可能性があります。フェイクニュースの大量生成や特定のイデオロギーのプロパガンダに利用されるリスクも存在します。また、AIが生成したコンテンツと人間が作成したコンテンツの区別が困難になることで、情報の信頼性に対する疑念が生じ、健全な言論空間が阻害される可能性も懸念されます。
プライバシーの保護への影響:

プラス面: ChatGPTは、プライバシー保護の観点から設計されたシステムと統合することで、個人情報を含むデータの匿名化やプライバシー保護規制に準拠した形でのデータ処理を支援する可能性があります。
マイナス面: ChatGPTの学習データには、インターネット上の膨大なテキストデータが含まれており、その中には個人情報や機密情報が含まれている可能性があります。悪意のあるユーザーが、ChatGPTを利用して、これらの情報にアクセスしたり、特定の個人に関する情報を不正に取得したりするリスクも存在します。また、ChatGPTとのやり取りの中で、ユーザーが意図せずに個人情報を開示してしまう可能性もあり、プライバシー侵害のリスクが高まる可能性があります。
これらの影響を踏まえ、ChatGPTのような対話型AIの開発・提供者は、表現の自由を促進しつつ、悪用を防ぎ、プライバシーを保護するための適切な対策を講じる必要があります。具体的には、透明性のあるAI開発、倫理的なデータ利用、悪用検出システムの導入、ユーザーに対するプライバシー保護に関する教育などが求められます。

AI技術の進歩は、人間の創造性や思考力を高めるツールとなる一方で、人間の思考を均質化し、多様性を損なうリスクも孕んでいるのではないか？

AI技術の進歩は、人間の創造性や思考力を高める可能性と同時に、思考の均質化や多様性の損失というリスクも孕んでおり、その影響は複雑です。
創造性と思考力へのプラスの影響:

新たな視点やアイデアの創出: AIは、人間では思いつかないような斬新な視点やアイデアを提供することで、人間の創造性を刺激し、新たな発想を生み出す catalyst となりえます。
思考の効率化: AIは、情報収集、分析、文章作成などの作業を効率化することで、人間がより高度な思考や問題解決に集中できる環境を提供します。
思考の均質化と多様性損失のリスク:

AIのバイアス: AIの学習データに偏りがある場合、そのAIが生成するアウトプットにも偏りが生じ、特定の考え方や価値観が優勢となる可能性があります。
思考の依存: AIに過度に依存することで、人間は自ら深く考えることをやめてしまい、思考の幅が狭まり、多様性が失われる可能性があります。
フィルターバブル: AIが個人の嗜好に合わせた情報ばかりを提供することで、ユーザーは異なる意見や価値観に触れる機会が減り、思考の多様性が失われる可能性があります。
AI技術の進歩がもたらす影響は、使い方次第で大きく変わります。AIをあくまで人間の創造性や思考力を高めるツールとして捉え、その限界を理解した上で、批判的な思考力を持って利用することが重要です。AI開発者は、多様なデータセットを用いた学習、バイアスの軽減、透明性の確保など、倫理的なAI開発に積極的に取り組む必要があります。また、教育機関や政府は、AIリテラシーを高め、AIと共存する社会を生き抜くために必要な能力を育成していく必要があります。

ChatGPTのような高度な言語モデルは、人間と機械の境界線を曖昧にし、人間のアイデンティティや存在意義に根本的な問いを投げかけているのではないか？

ChatGPTのような高度な言語モデルは、人間と機械の境界線を曖昧にし、人間のアイデンティティや存在意義に根本的な問いを投げかけています。
人間と機械の境界線の曖昧さ:
ChatGPTは、人間のような自然な文章を生成し、人間と自然な対話を行うことができます。これは、従来の機械には見られなかった高度な能力であり、人間と機械の境界線を曖昧にする要因となっています。人間はこれまで、言語能力や知性といったものを人間固有のものとして捉えてきましたが、ChatGPTのようなAIの登場は、そうした認識を揺るがす可能性を秘めています。
人間のアイデンティティや存在意義への問い:
ChatGPTのような高度なAIは、人間の仕事や役割を代替する可能性を秘めています。これは、人間の社会における存在意義や価値を揺るがす可能性があり、多くの人々に不安や恐怖感を与えています。また、AIが人間の知性を超えるシンギュラリティが到来する可能性も議論されており、人間のアイデンティティや存在意義に対する根本的な問いが突きつけられています。
新たな人間観の必要性:
ChatGPTのような高度なAIの登場は、人間とは何か、人間であることの意義とは何かを改めて問い直す機会を与えています。AIとの共存が不可避となる中で、私たちは、AIと人間を対立軸で捉えるのではなく、AIを人間の能力を拡張し、より豊かな社会を実現するためのパートナーとして捉える新しい人間観を構築していく必要があるでしょう。
倫理的な課題と社会的な議論の必要性:
AI技術の進歩は、倫理的な課題や社会的な議論を避けて通ることはできません。AIの開発と利用に関する倫理的なガイドラインを策定し、AIが人間の尊厳や権利を脅かすことなく、社会全体にとって有益な形で発展していくよう、継続的な議論と社会的な合意形成が求められます。