Temel Kavramlar
Counterfactual guidance does not necessarily lead to the best semi-factual explanations in XAI.
Özet
最近、eXplainable AI(XAI)において、「if-only」説明を使用したカウンターファクトが非常に人気があり、特徴入力の変更がどのように(通常は否定的な)意思決定結果に変化するかを説明します。さらに最近では、「even-if」説明であるセミファクトが注目されています。これらは、AIシステムの意思決定結果を変えない特徴入力の変更を明らかにし、より有益な手段を提案する可能性があります。一部のセミファクト手法は、クエリインスタンスへのカウンターファクトを使用してセミファクト製作をガイドします(いわゆるカウンターファクトガイド手法)、一方、他の手法はそうではありません(いわゆるカウンターファクトフリー手法)。この研究では、5つの主要指標を使用して7つのデータセット上で8つのセミファクト手法の包括的なテストを実施し、カウンターファクトガイダンスが最良のセミファクトを見つけるために必要かどうかを判断します。
İstatistikler
8つのセミファクト手法と7つのデータセットで包括的なテストを実施。
カウンターファクトフリーとカウンターファクトガイド方法間で比較。
5つの主要指標:距離、妥当性、混乱度、堅牢性、疎密度。
Alıntılar
"Are the best semi-factuals found by using counterfactuals as guides?" - Eoin M. Kenny & Mark T. Keane
"In this paper, we consider a key question that divides the semi-factual literature; namely, whether the best semi-factuals are to be found by using counterfactuals as guides?" - Saugat Aryal & Mark T. Keane
"The short answer is 'NO'. If counterfactual guidance is critical then the counterfacual-guide methods should be the top-ranked methods to the left, with the counterfactual-free methods to the right." - Content Analysis
"Hence, using counterfactuals as guides in semi-factual generation does not determine success on key metrics." - Content Analysis