Jeffreys’ a-priori-Verteilung

A-priori-Verteilung

Als Jeffreys’ a-priori-Verteilung[1] bezeichnet man in der In bayesschen Statistik eine A-priori-Verteilung (eine Wahrscheinlichkeitsverteilung, welche unabhängig von Messdaten als gegeben angenommen wird). Sie ist nach Sir Harold Jeffreys benannt und zeichnet sich gegenüber anderen a-priori-Verteilungen dadurch aus, dass sie gegenüber einer Reparametrisierung der Modellparameter invariant ist. Aufgrund dieser Invarianz wird die Jeffreys’ a-priori-Verteilung auch als nichtinformativ bezeichnet.

Die Wahrscheinlichkeitsdichtefunktion der Jeffreys’ a-priori-Verteilung ist proportional zur Quadratwurzel der Determinante der Fisher-Information:

Motivation

Bearbeiten

Das Problem ergibt sich aus dem Bayesschen Satz, in dem die a-posteriori-Verteilung   als proportional zum Produkt von Likelihood   und a-priori-Verteilung   gegeben ist, wobei   die Daten darstellt, und   Modellparameter (etwa Mittelwert und Standardabweichung einer Normalverteilung). Typischerweise ist die Likelihood, also die Wahrscheinlichkeitsverteilung der Daten, sofern ein Modellparameterwert gegeben ist, bestimmbar. Um jedoch eine Wahrscheinlichkeitsverteilung der Modellparameter gegeben den Messdaten D zu erhalten, ist auch eine datenunabhängige a-priori-Wahrscheinlichkeitsverteilung   notwendig.

Lange Zeit lehnten die Orthodoxie der Statistik die Bayessche Statistik ab, da die Wahl einer geeigneten a-priori-Verteilung zu beliebig erschien[2] Insbesondere störte, dass die Verfahren zur Wahl einer a-priori-Verteilung zu anderen Verteilungen führte, je nachdem, wie die Modelle parametrisiert waren. Jeffreys nahm diesen Kritikpunkt auf und erhob ihn zur Randbedingung bei der Suche nach einem Verfahren zur Wahl von a-priori-Verteilungsfunktionen.

Gegeben sei eine monotone Transformation  , welche jedem Modellparameter   einen alternativen Modellparameter   zuordnet, wird als Invarianzbedingung gefordert, dass die Wahrscheinlichkeitsfunktionen der a-priori-Verteilungen für  - -Paare gleich sind.

 

Da es sich bei   um eine monotone Transformation handelt, kann daraus ein Zusammenhang zwischen den Wahrscheinlichkeitsdichtefunktionen beider Parameterräume hergestellt werden. Das gesuchte Verfahren zur Findung einer a-priori-Wahrscheinlichkeitsfunktion muss also dem folgenden Zusammenhang genügen:

 

Es lässt sich zeigen, dass die Fisher-Informationen für die Parametrisierung mit   und mit  , einen direkten Zusammenhang haben

 

somit kann durch die Wahl einer a-priori-Verteilung   tatsächlich gefolgert werden, dass sich aus der Fisher-Information unter Reparametrierung invariante a priori-Verteilungen finden lassen

 

und sofern die a-priori-Verteilungen normierbar sind, sind sie auch echt gleich.

Einzelnachweise

Bearbeiten
  1. Torsten Becker, Richard Herrmann, Viktor Sandor, Dominik Schäfer, Ulrich Wellisch: Stochastische Risikomodellierung und statistische Methoden. Ein anwendungsorientiertes Lehrbuch für Aktuare. Springer Spektrum, Berlin u. a. 2016, ISBN 978-3-662-49406-6, S. 330.
  2. Edwin T. Jaynes: Prior Probabilities. In: IEEE Transactions on Systems Science and Cybernetics. Band 4, Nummer 3, 1968, S. 227–241.