本研究では、ローカル説明を部分集団レベルで視覚的に分析するためのSUBPLEXというアプローチを提案している。SUBPLEXは、ユーザーが部分集団を柔軟に定義し、ローカル説明のパターンを特定・比較できるようなインタラクティブな視覚化ツールである。
まず、ローカル説明データの特性(疎さ、ノイズ)を考慮した上で、クラスタリングと次元削減の手法を提案している。ユーザーは、推奨された特徴量を選択したり、独自の部分集団を定義したりすることで、モデルの振る舞いを詳細に分析できる。
SUBPLEXは、Jupyter Notebookに組み込まれたウィジェットとして実装されており、データサイエンティストが分析結果を容易に活用できる。2つのユースケースと専門家からのフィードバックを通じて、SUBPLEXの有効性が示されている。
In eine andere Sprache
aus dem Quellinhalt
arxiv.org
Wichtige Erkenntnisse aus
by Jun Yuan,Gro... um arxiv.org 05-07-2024
https://arxiv.org/pdf/2007.10609.pdfTiefere Fragen