Core Concepts
個人の公平性と集団の公平性は両立できない可能性がある。固定的な確率割り当てでは個人の公平性を損なうが、連続的な確率関数を用いることで個人の公平性を保ちつつ集団の公平性も実現できる。
Abstract
本論文では、信用スコアに基づく貸付の意思決定において、個人の公平性と集団の公平性の両立が困難であることを示している。
従来の手法では、保護属性ごとに異なるしきい値を設定し、その間の得点に対して固定的な確率で判定を行う「固定的な確率割り当て」が用いられていた。しかし、この手法では以下の問題点がある:
得点が高くても判定確率が変わらない
得点が近い個人でも判定が大きく異なる(しきい値効果)
一方の集団に提供される判定確率が他方の集団に提供されない
そこで本論文では、連続的な確率関数を用いる「優先的な確率割り当て」を提案している。この手法では、以下の特性を持つ確率関数を設計することで、個人の公平性と集団の公平性を両立させている:
単調増加性: 得点が高いほど判定確率が高くなる
境界での連続性: しきい値付近での判定確率の不連続性がない
区間での連続性: 得点の微小変化に対する判定確率の変化が小さい
提案手法を信用スコアに基づく貸付と再犯リスク予測の2つのケーススタディに適用し、従来手法と比較して、公平性と予測精度のトレードオフを改善できることを示している。
Stats
信用スコアが高いほど返済確率が高い
人種によって信用スコアと返済確率の関係が異なる
Quotes
"個人の公平性と集団の公平性は両立できない可能性がある"
"固定的な確率割り当てでは個人の公平性を損なう"
"連続的な確率関数を用いることで個人の公平性を保ちつつ集団の公平性も実現できる"