本研究は、医療AIにおける説明可能性に関する2つの基本的な問題、すなわち(1)医療AIにおける説明とは何か、(2)医療AIにおける良い説明の特徴は何かを明らかにすることを目的としている。
まず、文献レビューを行い、説明可能性に関する定義の断片を抽出した。次に、医療分野の意思決定者、AIデベロッパー、XAI理論家の3グループから構成される専門家パネルを対象にデルファイ調査を実施し、2ラウンドにわたって意見を収集した。
その結果、医療AIにおける説明とは「ユーザーが特定の目的のためにAI/MLモデルの機能に関する洞察を得るためのツール」と定義された。また、良い説明の特徴として、「目的認識」「理解可能性」「情報性」「ユーザー認識」「ドメイン認識」「不確実性の伝達」「コンテキスト認識」「忠実性」「客観性」の9つの重要な属性が抽出された。さらに、「選択性」「堅牢性」「対話性」「因果性」「透明性」「対照性」「評価性」「時間認識」「反事実性」の9つの望ましい属性も示された。
本研究の成果は、医療AIの説明可能性を高め、ユーザーの理解と信頼を促進するための指針となる。今後は、医療の各分野や説明の目的に応じた詳細な属性の検討が必要である。
다른 언어로
소스 콘텐츠 기반
arxiv.org
더 깊은 질문