Core Concepts
Die Shannon- und Rényi-Entropie der Poisson-Verteilung steigen mit zunehmendem Intensitätsparameter.
Abstract
In dieser Arbeit werden die Eigenschaften der Shannon- und Rényi-Entropie der Poisson-Verteilung als Funktionen des Intensitätsparameters untersucht.
Für die Shannon-Entropie wird gezeigt, dass sie streng monoton steigend und konkav in Bezug auf den Intensitätsparameter ist. Der Beweis ist relativ einfach.
Für die Rényi-Entropie, die von einem zusätzlichen Parameter α > 0 abhängt, ist der Beweis der Monotonie-Eigenschaften hingegen nicht trivial. Hier wird die Karamata-Ungleichung angewendet, um zu zeigen, dass die Rényi-Entropie für 0 < α < 1 streng monoton steigend und für α > 1 streng monoton fallend in Bezug auf den Intensitätsparameter ist.
Darüber hinaus werden einige Nebenresultate in Form von Ungleichungen für Ausdrücke, die mit der Rényi-Entropie zusammenhängen, hergeleitet.
Stats
Die Poisson-Verteilung mit Parameter λ hat die Wahrscheinlichkeitsverteilung P{ξλ = k} = λke−λ/k!, k ∈ N ∪ {0}.
Quotes
"Die Präsenz dieses Parameters macht es schwierig, die Rényi-Entropie für verschiedene Verteilungen genau zu berechnen und ihr Verhalten zu untersuchen."
"Für die normale Verteilung können viele Arten von Entropien exakt berechnet werden, und es kann festgestellt werden, dass diese Entropien mit der Varianz zunehmen."