条件エントロピーに関する考察

条件エントロピーは、順方向と逆方向のモデルに関して、定数倍の違いしかない。これにより、学習可能性を定量化する方法と、データセット間の分布シフトを制御する手法が得られる。