部分情報分解

特徴量の解釈可能性と特徴量選択のための部分情報分解

本稿では、特徴量の部分情報分解（PIDF）と呼ばれる新しいデータ解釈と特徴量選択の手法を提案する。PIDFは、従来の特徴量重要度のように単一の値を割り当てるのではなく、各特徴量に対して、ターゲット変数との相互情報量、相乗情報への貢献度、冗長情報の量の3つの指標を用いることで、複雑な特徴量間の相互作用を明らかにし、データの解釈と最適な特徴量選択を同時に行うことを可能にする。

特徴量の解釈可能性と特徴量選択のための部分情報分解

明示的な部分情報分解の公式

合同情報に基づくシナジーの測定