Core Concepts
提案された一般的なフレームワークは、事前にトレーニングされたDL分類器の性能を自動的に向上させることを目的としています。
Abstract
現代の人工知能(AI)システム、特にディープラーニング(DL)モデルの内部機能を理解することは課題である。
XAIは、AIモデルの内部機能について説明を提供することでこの課題に取り組む。
現在のXAI研究は主にAIシステムの説明に焦点を当てているが、XAI技術を使用してAIシステムのパフォーマンスを自動的に向上させる関心が高まっている。
本論文では、事前トレーニングされたDL分類器の性能を自動的に向上させるための一般的なフレームワークが提案されている。
このフレームワークは、複雑なモデルをゼロから再トレーニングする際に関連付けられる計算オーバーヘッドを回避することができる。
Introduction:
XAI技術は画像解析、自然言語処理、臨床意思決定支援システムなど様々な領域で適用されている。
既存アプローチでは人間介入が必要であり、XAIを使用してMLモデルのパフォーマンスを直接向上させることへの重点が相対的に少ない。
Related works:
XAI方法はMLシステムを強化するため外部知識を組み込む可能性がある。
XiLメカニズムでは訓練中にユーザーインタラクションが可能であり、視覚的説明に基づいてモデル出力形成可能。
Method Description:
提案手法では説明情報を予測値へ統合し、入力特徴量の重要性を特定し分類タスク支援するFモジュール導入。
Conclusions:
提案手法が既存MLモデルの自動改善へ与える影響や異なるXAI方法・アーキテクチャ・データセットへの応用探索価値有り。
Stats
論文番号: arXiv:2403.10373v1 [cs.LG] 15 Mar 2024