透明なAI開示義務: 誰が、何を、いつ、どこで、なぜ、どのように

Core Concepts

AI生成メディアの透明性は重要であり、EU AI法案のArticle 52に関する質問が重要である。

Abstract

• 人間中心のAIアプローチを採用して、Article 52に基づく透明なAI開示に関連する主要な質問を導出した。
• 研究者、デザイナー、エンジニアら16人を対象とした2つのワークショップを実施し、149の質問を5つのテーマと18のサブテーマに分類した。
• メディアセクターにおける透明なAI開示が将来的な法的発展やHCI研究に影響を与える可能性がある。

エチカ・法的・政策上の考慮事項

• AI使用の倫理的含意と法的遵守
• 政策と規制上の影響

未来への考慮事項、変化するコンテキスト、実装上の課題

• AI技術と社会的影響の進化

プロバイダー責任と業界への影響

• プロバイダーの倫理的責任と義務

信頼性・真正性・ユーザー支援

• 真正性・起源・透明性に関する質問

ユーザーエクスペリエンス・情報過多・パーソナライゼーション

• パーソナライゼーションとユーザー優先度

Stats

Advances in Generative Artificial Intelligence (AI) are resulting in AI-generated media output that is (nearly) indistinguishable from human-created content.
We contribute a set of 149 questions clustered into five themes and 18 sub-themes.

Quotes

"Fake realities will create fake humans. Or, fake humans will generate fake realities and then sell them to other humans, turning them, eventually, into forgeries of themselves." - Philip K. Dick, I Hope I Shall Arrive Soon, 1980

Key Insights Distilled From

Transparent AI Disclosure Obligations

by Abdallah El ... at arxiv.org 03-12-2024

https://arxiv.org/pdf/2403.06823.pdf

Deeper Inquiries

現在議論されているEU AI法案はどういったリスクを解決しようとしているか？

EU AI法案は、人工知能（AI）に関連する透明性の問題に取り組んでいます。特に、ジェネレーティブAI（GenAI）技術が発展する中で、メディアセクターにおける情報操作や誤情報の拡散などのリスクが高まっています。この法案は、Article 52を通じてAIシステムの透明性義務を規定し、ユーザーとプロバイダー間で適切な開示が行われることを目指しています。具体的には、「自然人と対話する意図のあるAIシステム」や「画像、音声、ビデオコンテンツを生成または操作するAIシステム」など特定の種類のAIシステムについて開示義務が規定されています。
この法案では、個々の利用者や提供者が何らかの形でその対話やコンテンツがAIシステムから生成されたものであることを理解しやすくすることで、誤解情報や不正確な情報拡散へのリスクを軽減しようとしています。さらに、「深層フェイク（deep fake）」など偽造映像・音声・画像へ対処するため、「内容が人工的に生成または操作された」という事実開示も求められています。