Satz von Rao-Blackwell

mathematischer Satz

Der Satz von Rao-Blackwell ist ein mathematischer Satz aus der Schätztheorie, einem Teilgebiet der mathematischen Statistik. Im einfachsten Fall konstruiert er aus einem vorgegebenen Punktschätzer mittels des bedingten Erwartungswertes einen neuen Schätzer, der in dem Sinne besser als der anfangs gegebene Schätzer ist, als dass er eine geringere Varianz besitzt. Daher nennt man den neu gewonnenen Schätzer auch die Rao-Blackwell-Verbesserung[1] des vorgegebenen Schätzers und die genutzte Vorgehensweise Rao-Blackwellisierung[2].

Insbesondere ist der neu gewonnene Schätzer immer suffizient. Somit liefert der Satz von Rao-Blackwell ein wesentliches Argument, optimale Schätzer unter den suffizienten Schätzern zu suchen und hebt die Bedeutung der Suffizienz als Gütekriterium hervor.

Der Satz ist nach Calyampudi Radhakrishna Rao und David Blackwell benannt.

Gegeben sei ein statistisches Modell  . Des Weiteren sei   ein Entscheidungsraum, am gängigsten ist  . Sei

 

ein Punktschätzer für die zu schätzende Funktion (im parametrischen Fall Parameterfunktion genannt)

 

sowie   eine suffiziente Statistik für  . Aufgrund der Suffizienz ist der bedingte Erwartungswert unabhängig von   und die Definition

 

ist sinnvoll (das   soll klarmachen, dass der bedingte Erwartungswert gewöhnlich von   abhängt, in diesem Fall die Wahl von   aber beliebig ist).

Dann gilt:

  1.   und   haben denselben Bias.
  2. Es ist
 
für alle  .

Für den Spezialfall, dass   erwartungstreu ist, folgt

  1.   ist ebenfalls erwartungstreu.
  2. Es ist
 
für alle  .

Teils wird der Satz auch mit einer suffizienten σ-Algebra   anstelle der suffizienten Statistik   formuliert. Die Aussagen bleiben jedoch identisch.

Beweisskizze

Bearbeiten

Die erste Aussage folgt aus   P-fast überall für alle  . Somit ist

 ,

wobei der letzte Schritt aus den elementaren Rechenregeln des bedingten Erwartungswertes folgt. Subtraktion von   liefert die Behauptung.

Die zweite Aussage folgt aus der jensenschen Ungleichung für bedingte Erwartungswerte

 .

Daraus folgt

 

für alle  . Bilden des Erwartungswertes liefert die Aussage.

Implikationen

Bearbeiten

Zentrales Gütekriterium für erwartungstreue Schätzer ist die Varianz, analog ist der mittlere quadratische Fehler das Gütekriterium für Schätzer mit Verzerrung. Beschränkt man sich nun bei der Suche nach guten Schätzern auf erwartungstreue Schätzer, so lässt sich nach der obigen Aussage immer ein Schätzer konstruieren, der besser als der Ausgangsschätzer ist und suffizient ist. Somit sind erwartungstreue Schätzer minimaler Varianz immer unter den suffizienten Schätzern zu finden. Dieselbe Argumentation folgt auch für Schätzer mit vorgegebener Verzerrung. Sucht man Schätzer mit minimalem mittlerem quadratischen Fehler in der Klasse der Schätzer mit einer vorgegebenen Verzerrung, so sind diese Schätzer suffizient.

Damit ist der Satz von Rao-Blackwell neben dem Satz von Lehmann-Scheffé der zentrale Satz, der die Verwendung der Suffizienz als Gütekriterium rechtfertigt.

Einordnung

Bearbeiten

Im Rahmen eines statistischen Entscheidungsproblem lässt sich der Satz von Rao-Blackwell wie folgt einordnen: Der Punktschätzer ist eine nichtrandomisierte Entscheidungsfunktion, als Verlustfunktion ist das   wie oben in der Beweisskizze gewählt. Die Risikofunktionen werden durch Erwartungswertbildung gewonnen und sind dann wie oben angegeben

 .

In dieser Formulierung lautet der Satz von Rao-Blackwell

 .

Somit liefert der Satz von Rao-Blackwell zu jeder Entscheidungsfunktion eine Rao-Blackwell-Verbesserung, welche für jeden Parameter   die Risikofunktion verbessert.

Verallgemeinerung

Bearbeiten

Mit der oben genannten Einordnung und durch die Verwendung der Jensenschen Ungleichung im Beweis lässt sich die Rao-Blackwell-Verbesserung auf beliebige konvexe Verlustfunktionen der Form

 

verallgemeinern. Somit lässt sich der Satz von Rao-Blackwell beispielsweise auch für Mengen von L-unverfälschten Schätzern wie beispielsweise Median-unverfälschten Schätzern formulieren.

Verwandte Aussagen

Bearbeiten

Der Satz von Rao-Blackwell ist Basis für den Satz von Lehmann-Scheffé. Dieser besagt, dass unter der zusätzlichen Voraussetzung der Vollständigkeit die Rao-Blackwell-Verbesserung einen gleichmäßig besten erwartungstreuen Schätzer liefert.

In regulären statistischen Modellen liefert die Cramér-Rao-Ungleichung eine untere Schranke für die Varianz von Schätzern.

Bearbeiten

Literatur

Bearbeiten

Einzelnachweise

Bearbeiten
  1. Rüschendorf: Mathematische Statistik. 2014, S. 130.
  2. Czado, Schmidt: Mathematische Statistik. 2011, S. 109.