Van-Trees-Ungleichung

Bei der Van-Trees-Ungleichung handelt es sich um eine zentrale Ungleichung aus der bayesschen Schätztheorie, einem Teilgebiet der mathematischen Statistik. Ähnlich wie die Cramér-Rao-Ungleichung aus der frequentistischen Statistik liefert sie eine Abschätzung der Varianz für Punktschätzer und damit eine Möglichkeit, unterschiedliche Schätzer miteinander zu vergleichen. Im Unterschied zur Cramér-Rao-Ungleichung verzichtet die Ungleichung auf die Voraussetzung der Erwartungstreue, ist aber dadurch für erwartungstreue Schätzer etwas schwächer. Für große Stichprobenumfänge unterscheidet sich allerdings die Van-Trees-Schranke nur noch geringfügig von der Cramér-Rao-Schranke.

Die Ungleichung ist benannt nach Harry L. van Trees, der die Ungleichung 1968 erstmals aufstellte.

Die Ungleichung

Rahmenbedingungen

Gegeben sei das einparametrige statistische Modell $({\mathcal {X}},{\mathcal {A}},{\mathcal {(}}P_{\vartheta })_{\vartheta \in \Theta })$ mit dominierendem Maß $\mu$. Wir bezeichnen mit $f(x|\vartheta )$ die Dichte von $P_{\vartheta }$ bezüglich $\mu$.

Über dem Parameterraum $(\Theta ,{\mathcal {B}}(\Theta ))$ gibt es zusätzlich ein Wahrscheinlichkeitsmaß $\pi$ mit einer Dichte $\lambda (\vartheta )$ bezüglich des Lebesgue-Maßes. Damit handelt es sich bei unserem Modell um ein bayessches statistisches Modell.

Es gelten weiterhin folgende Regularitätsbedingungen:

• $\lambda (\vartheta )$ und $f(x|\cdot )$ sind beide ($\mu$-fast sicher) absolutstetige Funktionen.
• $\Theta$ ist ein abgeschlossenes Intervall in $\mathbb {R}$
• Die Funktion $\lambda$ konvergiert an den Rändern des Definitionsintervalls $\Theta$ gegen $0$.

Formulierung

Sei $T=T(X)$ ein Schätzer für den Parameter $\vartheta$ und $X$ eine Zufallsvariable, die wie $P_{\vartheta }$ verteilt ist. Wir nehmen zudem an, dass $\operatorname {E} _{\vartheta }[{\frac {\partial }{\partial \vartheta }}\ln f(X,\vartheta )]=0$ gilt.

Sei des Weiteren

$I(\vartheta ):=\operatorname {E} _{\vartheta }[S_{\vartheta }^{2}]=\operatorname {E} _{\vartheta }[({\frac {\partial }{\partial \vartheta }}\ln f(X,\vartheta ))^{2}]$

$I(\lambda ):=\operatorname {E} [({\frac {\partial }{\partial \vartheta }}\ln \lambda (\vartheta ))^{2}]$

die Fisher-Information für $\vartheta$ beziehungsweise für einen Parameter in $\lambda$. Dabei ist $\operatorname {E} _{\vartheta }$ der (gewöhnliche) Erwartungswert bezüglich des Wahrscheinlichkeitsmaßes $P_{\vartheta }$ und $\operatorname {E}$ der Erwartungswert bezüglich des gemeinsamen Wahrscheinlichkeitsmaßes von $X$ und einer $\pi$-verteilten Zufallsvariable $Y$.

Die Ungleichung von van Trees besagt nun:

$\operatorname {E} [(T(X)-\vartheta )^{2}]\geq {\frac {1}{\operatorname {E} [I(\vartheta )]+I(\lambda )}}$

Anwendungen

Die Ungleichung kann verwendet werden, um zu zeigen, dass in ein- oder zweiparametrigen Modellen keine supereffizienten Schätzer existieren. Dabei ist unter einem supereffizienten Schätzer ein (nicht-erwartungstreuer) Schätzer gemeint, der die Cramér-Rao-Ungleichung unterschreitet.

Literatur

• Richard D. Gill, Boris Y. Levit: Applications of the van Trees inequality: a Bayesian Cramér-Rao bound. In: Bernoulli. 1, no. 1–2, 1995, S. 59–79. (projecteuclid.org)