本論文は、SHAP スコアに関する重要な問題点を指摘している。
SHAP スコアは、特徴の重要度を正しく反映できない場合がある。特に、重要でない特徴に高いスコアが割り当てられたり、重要な特徴に0のスコアが割り当てられたりする。
この問題は、SHAP スコアの定義に使用される特性関数に起因している。従来の特性関数には適切な性質が満たされていないことが問題の根源となっている。
本論文では、特性関数が満たすべき重要な性質を提案している。これらの性質には、クラス非依存性、特徴の関連性との整合性、数値中立性などが含まれる。
さらに、提案した性質を満たす新しい特性関数を複数提案している。これらの特性関数を使用すれば、SHAP スコアの問題点を解決できる。
提案した特性関数の計算複雑度についても分析しており、一部の場合では多項式時間アルゴリズムが存在することを示している。
最後に、提案手法を実装したツール"sSHAP"を紹介し、従来のSHAPツールよりも適切なスコアを出力できることを示している。
To Another Language
from source content
arxiv.org
Дополнительные вопросы