XAIにおける「X」の削除：理解可能なAIへの訴え

Core Concepts

XAIの文脈での説明を適用することは困難であり、代わりに理解可能なAIに焦点を当てるべきである。

Abstract

最近の論文では、科学的説明を機械学習に適用する試みが無駄であることが示されています。代わりに、理解可能なAIへのアプローチがより有益であることが提案されています。多くのXAI手法は実際には実用的な利益をもたらさず、カウンターファクチュアル手法はモデル依存性や条件不足から真正なカウンターファクトを提供していません。サロゲートモデルはMLシステムを理解するための有効なツールであり、その使用方法や特徴間の相互関係を把握することが理解の証拠です。

Stats

Hempel (1965) によれば、一般的な法則は特定事例へ言及すべきではない。
Letham et al. (2015) は医療専門家向けに決定リスト形式のインタープリータブル予測モデルを導入した。
Keane et al. (2021) の調査では、117本中36本（31％）しかユーザースタディーが含まれていなかった。

Quotes

"Understanding is achieved only when informational items are pieced together by the subject in question." - Kvanvig, 2003.
"A person’s understanding of the target model admits of degrees, depending on the person’s grasp of the connections displayed in the surrogate model." - Potochnik, 2017.

Key Insights Distilled From

Axe the X in XAI

by Andr... at arxiv.org 03-04-2024

https://arxiv.org/pdf/2403.00315.pdf

Deeper Inquiries

どうしてカウンターファクト手法が実世界で実際的な利益をもたらさない傾向があるのか？

カウンターファクト手法が実世界で実際的な利益をもたらさない傾向がある理由はいくつかあります。まず第一に、カウンターファクト手法はロバスト性に欠けています。局所的なカウンターファクト方法は簡単に操作され、微小な摂動の下で大幅に異なる説明結果を収束する可能性があります。また、近接メトリックに依存しており、任意の場合にどのメトリックを使用するかを決定する原則的方法は存在しないことから問題が生じます。
第二に、現在のAIコミュニティでは、彼らが使用するカウンターファクト手法が非専門家によって実際に理解されているかどうかをテストする興味や関心が不足しているようです。最近の調査では、117件中36件（31％）しかユーザースタディーを含んだ研究論文評価した例外説明書籍はありませんでした。
第三に深層学問上の理由として、真正面から立証可能性条件という基準から逸脱した単純化前提条件下で多くの方法論者達は入力変数間相互作用無しと仮定します。この戦略はすべての変数値を固定したまま1つだけ変更し出力値へ与える影響度合い等見極め方です(Wachter et al., 2018)。

サロゲートモデルとカウンターファクト手法の比較から得られる洞察は何か？

サロゲートモデルとカウンターファクト手法を比較することから得られる洞察は重要です。サロゲートモデルでは元々目標物体内部構造全体把握能力必要有ります(De Regt, 2017)。
一方，局所的反事象推測方式(CF)や摂動型方式(PM)等，その他多く方法群共通点：特徴主成分同出力全体効果及びそれ適応度知識源確保能否程度示唆します(Letham et al., 2015; Bastani et al., 2019; Jung et al., 2017).
これ些々アプロチングス皆フォーキャスティング・インフェランシズ・ビジョナブレイド・オブジェキッショントライアングレエムパイリックアダプテーショントライアングレエムパイリックマッピングス等種々技術使われています(Slack et al.,2021)

MLシステム全体を理解するために必要な条件や基準

MLシステム全体理解条件及基準考え方次第以下内容：

知識各部品及其相互依存程度把握
各情報項目被当事者自身連結形式组み込み
情報項目被当事者自身片段组み込み
能正确判断变动后会发生如何结果
能正确判断改变某些因素将产生不同输出结果之间关系
これ种种标准是根据具体应用场景而异，并允许设计工具以满足不同用户和人群需求为考虑。(Lageet al.，2019)
以上述观点来看，在机器学习系统中实现对整个系统的了解需要综合运用这些标准和条件，并确保用户能有效地使用这些信息进行决策或行动。(Kuorikoski and Ylikoski, 2023)