本文擴展了算法保守不等式到機率測量。機率測量的自我資訊量在經過隨機處理時不會增加。這包括有限序列、無限序列和T0、可數拓撲上的測量。
對於有限序列和無限序列的情況,保守不等式可直接從個別序列上的隨機處理的保守不等式推導而來。但在處理機率的情況下,重新探討這些結果仍有益處。機率在數學中無處不在,例如量子測量的結果。將結果推廣到任意拓撲也很有價值。
通過將一般拓撲映射到無限序列,然後應用個別序列間的資訊函數,可以實現機率測量間的資訊。本文以實數為例,並展示了可計算卷積的資訊保守。例如,高斯函數的平滑會導致自我算法資訊的降低。
本文還展示了如何使用可枚舉的不相交開集下界估計一般空間上機率間的資訊,以及如何使用可計算非概率測度覆蓋來上界估計。我們還研究了使用測度空間上的機率測度來平均測度間的資訊。
本文採用的拓撲方法的優點是可以使用非常一般的拓撲。唯一需要的假設是拓撲具有T0性質和可計算的可數基。典型的可計算理論要求如緊致性或可度量性都不需要。此外,本文處理的是所有測度,而不僅僅是可計算的測度。這類似於無限序列間的互信息項在不可計算輸入下也是良定義的。
На другой язык
из исходного контента
arxiv.org
Дополнительные вопросы