핵심 개념
確率分布のエントロピーの単調性、加法性、および劣加法性の性質は、エントロピーが−/LProbρ圏子関手から整閉部分順序可換単位群圏への単位射自然変換であることの帰結である。さらに、シャノンエントロピーは、−/LProbρ圏から整閉部分順序可換単位群圏への普遍的な単位射自然変換として特徴付けられる。
초록
本論文では、確率分布のエントロピーの本質的な性質である単調性、加法性、および劣加法性が、エントロピーが−/LProbρ圏子関手から整閉部分順序可換単位群圏への単位射自然変換であることの帰結であることを示している。
さらに、シャノンエントロピーは、−/LProbρ圏から整閉部分順序可換単位群圏への普遍的な単位射自然変換として特徴付けられる。
この特徴付けは、先行研究とは異なり、連続性の仮定を必要としない。
また、エントロピーの概念は、有限確率空間圏FinProbだけでなく、様々な単位射単位モノイド圏MonSiMonCatに拡張できる。
これにより、異なる圏上のエントロピーを自然に関連付けることができる。
さらに、条件付きシャノンエントロピーも、整閉部分順序可換単位群圏への普遍的な関手として特徴付けられる。
통계
確率分布Pのシャノンエントロピーは、H1(P) = −Σx P(x) log P(x)で定義される。
確率分布Pのハートリーエントロピーは、H0(P) = log |{x : P(x) > 0}|で定義される。
確率変数X, Yの結合エントロピーは、H1(X, Y) = H1(X) + H1(Y)が成り立つ。
確率変数X, Yの条件付きエントロピーは、H1(X|Y) = H1(X, Y) - H1(Y)が成り立つ。
인용구
"確率分布のエントロピーの単調性、加法性、および劣加法性の性質は、エントロピーが−/LProbρ圏子関手から整閉部分順序可換単位群圏への単位射自然変換であることの帰結である。"
"シャノンエントロピーは、−/LProbρ圏から整閉部分順序可換単位群圏への普遍的な単位射自然変換として特徴付けられる。"
"条件付きシャノンエントロピーも、整閉部分順序可換単位群圏への普遍的な関手として特徴付けられる。"