Core Concepts
公平性代替関数は、公平性定義と大きな差異があり、不公平な結果や高い不安定性をもたらす可能性がある。本研究では、この問題に取り組むため、一般的なシグモイド代替関数を提案し、公平性と安定性の保証を示す。さらに、代替関数の差異を縮小する新しい手法「Balanced Surrogate」を提案する。
Abstract
本研究は、アルゴリズミック公平性における公平性代替関数の理解に焦点を当てている。
主な内容は以下の通り:
公平性代替関数と公平性定義の間には「代替-公平性ギャップ」が存在し、これが公平な結果や安定性に影響を及ぼすことを示す。
大きな余裕幅を持つデータポイントが、代替-公平性ギャップと不安定性に悪影響を及ぼすことを指摘する。
一般的なシグモイド代替関数を提案し、公平性と安定性の保証を理論的に示す。また、大きな余裕幅のデータポイントの問題に対処できることを示す。
代替-公平性ギャップを縮小する新しい手法「Balanced Surrogate」を提案する。これは、既存の公平性代替関数を用いた学習フレームワークに組み込めるプラグイン方式のアルゴリズムである。
3つの実世界データセットを用いた実験により、提案手法が公平性と安定性を向上させつつ、精度も維持できることを示す。
Stats
大多数のデータポイントは決定境界付近にある。
成人データセットと COMPAS データセットでは、5%以上のデータポイントが大きな余裕幅を持つ。
大きな余裕幅を持つデータポイントのほとんどは、正クラスに予測されている。