Normalverteilung

Wahrscheinlichkeitsverteilung
(Weitergeleitet von Gauß-Verteilung)

Die Normal- oder Gauß-Verteilung (nach Carl Friedrich Gauß) ist in der Stochastik ein wichtiger Typ stetiger Wahrscheinlichkeitsverteilungen. Ihre Wahrscheinlichkeitsdichtefunktion wird auch Gauß-Funktion, gaußsche Normalverteilung, gaußsche Verteilungskurve, Gauß-Kurve, gaußsche Glockenkurve, gaußsche Glockenfunktion, Gauß-Glocke oder schlicht Glockenkurve genannt. Sie hat die Form

Normalverteilung
Dichtefunktion
Dichtefunktionen der Normalverteilung :
(blau), (rot), (gelb) und (grün)
Verteilungsfunktion
Verteilungsfunktionen der Normalverteilungen:
(blau), (rot), (gelb) und (grün)
Parameter – Erwartungswert

– Varianz
( ist Lageparameter, ist Skalenparameter)

Träger
Dichtefunktion
Verteilungsfunktion
– mit Fehlerfunktion
Erwartungswert
Median
Modus
Varianz
Schiefe
Wölbung
Entropie
Momenterzeugende Funktion
Charakteristische Funktion
Fisher-Information

mit dem Erwartungswert und der Standardabweichung .

Die besondere Bedeutung der Normalverteilung beruht unter anderem auf dem zentralen Grenzwertsatz, dem zufolge Verteilungen, die durch additive Überlagerung einer großen Zahl von unabhängigen Einflüssen entstehen, unter schwachen Voraussetzungen annähernd normalverteilt sind.

In der Messtechnik wird häufig eine Normalverteilung angesetzt, um die Streuung von Messwerten zu beschreiben. Die Abweichungen der Messwerte vieler natur-, wirtschafts- und ingenieurwissenschaftlicher Vorgänge vom Erwartungswert lassen sich durch die Normalverteilung in guter Näherung beschreiben (vor allem Prozesse, die in mehreren Faktoren unabhängig voneinander in verschiedene Richtungen wirken).

Zufallsvariablen mit Normalverteilung benutzt man zur Beschreibung zufälliger Vorgänge wie:

Der Erwartungswert kann als Schwerpunkt der Verteilung interpretiert werden. Die Standardabweichung gibt ihre Breite an.

Geschichte

Bearbeiten

Im Jahre 1733 zeigte Abraham de Moivre in seiner Schrift The Doctrine of Chances im Zusammenhang mit seinen Arbeiten am Grenzwertsatz für Binomialverteilungen eine Abschätzung des Binomialkoeffizienten, die als Vorform der Normalverteilung gedeutet werden kann.[1]

Die für die Normierung der Normalverteilungsdichte zur Wahrscheinlichkeitsdichte notwendige Berechnung des nichtelementaren Integrals

 

gelang Pierre-Simon Laplace im Jahr 1782 (nach anderen Quellen Poisson).

Im Jahr 1809 publizierte Gauß sein Werk Theoria motus corporum coelestium in sectionibus conicis solem ambientium (deutsch Theorie der Bewegung der in Kegelschnitten sich um die Sonne bewegenden Himmelskörper), das neben der Methode der kleinsten Quadrate und der Maximum-Likelihood-Schätzung die Normalverteilung definiert. Wiederum Laplace war es, der 1810 den Satz vom zentralen Grenzwert bewies, der die Grundlage der theoretischen Bedeutung der Normalverteilung darstellt und de Moivres Arbeit am Grenzwertsatz für Binomialverteilungen abschloss.

Adolphe Quetelet erkannte schließlich bei Untersuchungen des Brustumfangs von mehreren tausend Soldaten im Jahr 1845 eine verblüffende Übereinstimmung mit der Normalverteilung und brachte die Normalverteilung in die angewandte Statistik.[2]

Zunächst wurde die Normalverteilung als Fehlergesetz (Law of Error) oder Fehlerkurve (error curve) bezeichnet. Die erste unzweideutige Verwendung der Bezeichnung „Normalverteilung“ für die Verteilung mit der Formulierung „Normal Curve of Distribution“ wird Francis Galton (1889)[3] zugeschrieben.[4][5] Der Wissenschaftshistoriker Stephen M. Stigler identifizierte[6] drei frühere – vermutlich voneinander unabhängige – Verwendungen des Wortes normal im Zusammenhang mit der später Normalverteilung genannten Verteilung durch Charles S. Peirce (1873)[7], Francis Galton (1877)[8] und Wilhelm Lexis (1877)[9], dabei werden eher die beobachteten Werte oder Teile der beobachteten Werte als „normal“ bezeichnet.

Definition

Bearbeiten

Eine Zufallsvariable   hat eine Normalverteilung mit Erwartungswert   und Standardabweichung   bzw. Varianz  , wobei  , oft geschrieben als  , wenn   die folgende Wahrscheinlichkeitsdichte hat:[10][11]

 .

Eine Zufallsvariable, deren Wahrscheinlichkeitsverteilung eine Normalverteilung ist, heißt normalverteilt. Eine normalverteilte Zufallsvariable heißt auch gaußsche Zufallsvariable.

Eine Normalverteilung mit den Parametern   und   heißt Standardnormalverteilung, standardisierte Normalverteilung[12] oder normierte Normalverteilung[13]. Eine Zufallsvariable, deren Wahrscheinlichkeitsverteilung eine Standardnormalverteilung ist, heißt standardnormalverteilt. Eine standardnormalverteilte Zufallsvariable hat die Dichtefunktion

 ,

siehe auch Fehlerintegral.

Zur mehrdimensionalen Verallgemeinerung siehe Mehrdimensionale Normalverteilung.

Alternative Definition

Bearbeiten

Alternativ lässt sich die Normalverteilung auch über ihre charakteristische Funktion definieren:

 

Diese Definition erweitert die obige Definition zusätzlich um den Fall  .

Eigenschaften

Bearbeiten

Erwartungswert und Varianz

Bearbeiten

Ist  , dann gilt für den Erwartungswert

 

und für die Varianz

 .

Insbesondere ist der Erwartungswert der Standardnormalverteilung  , denn für   gilt

 

da der Integrand integrierbar und punktsymmetrisch ist.

Standardisierung

Bearbeiten

Eine Zufallsvariable   wird durch Standardisierung in eine standardnormalverteilte Zufallsvariable   überführt.

Verteilungsfunktion

Bearbeiten

Die Wahrscheinlichkeitsdichte einer normalverteilten Zufallsvariable ist nicht elementar integrierbar, sodass Wahrscheinlichkeiten numerisch berechnet werden müssen. Die Wahrscheinlichkeiten können mithilfe einer Standardnormalverteilungstabelle berechnet werden, die eine Standardform verwendet. Dabei bedient man sich der Tatsache, dass die lineare Transformation einer normalverteilten Zufallsvariablen zu einer neuen Zufallsvariable führt, die ebenfalls normalverteilt ist. Konkret heißt das, wenn   und  , wobei   und   Konstanten sind mit  , dann gilt  . Damit bilden Normalverteilungen eine Lage-Skalen-Familie.

Die Verteilungsfunktion der Normalverteilung ist durch

 

gegeben. Die Wahrscheinlichkeit, dass   eine Realisierung im Intervall   hat, ist damit  .

Wenn man durch die Substitution   statt   eine neue Integrationsvariable   einführt, ergibt sich mit   und   (gemäß dem oben angeführten Linearitätskriterium)

 

Dabei ist   die Verteilungsfunktion der Standardnormalverteilung:

 

Mit der Fehlerfunktion   lässt sich   darstellen als

 

Funktionsgraph

Bearbeiten

Der Graph der Dichtefunktion   bildet eine Gaußsche Glockenkurve und ist achsensymmetrisch mit dem Parameter   als Symmetriezentrum, der auch den Erwartungswert, den Median und den Modus der Verteilung darstellt. Vom zweiten Parameter   hängen Höhe und Breite der Wahrscheinlichkeitsdichte ab, die Wendepunkte liegen bei  .

Der Graph der Verteilungsfunktion   ist punktsymmetrisch zum Punkt   Für   gilt insbesondere   und   für alle  .

Als Wahrscheinlichkeitsverteilung ist die Gesamtfläche unter der Kurve gleich  . Dass jede Normalverteilung normiert ist, ergibt sich über die lineare Substitution  :

 .

Für die Normiertheit des letzteren Integrals siehe Fehlerintegral.

Momenterzeugende Funktion und höhere Momente

Bearbeiten

Die momenterzeugende Funktion der  -verteilten Normalverteilung   lautet

 .

Nach dem stochastischen Moment 1. Ordnung, dem Erwartungswert, und dem zentralen Moment 2. Ordnung, der Varianz, ist die Schiefe das zentrale Moment 3. Ordnung. Es ist unabhängig von den Parametern   und   immer den Wert  . Die Wölbung als zentrales Moment 4. Ordnung ist ebenfalls von   und   unabhängig und ist gleich  . Um die Wölbungen anderer Verteilungen besser einschätzen zu können, werden sie oft mit der Wölbung der Normalverteilung verglichen. Dabei wird die Wölbung der Normalverteilung auf   normiert (Subtraktion von 3); diese Größe wird als Exzess bezeichnet.

Die ersten Momente wie sind folgt:

Ordnung Moment zentrales Moment
     
0    
1    
2    
3    
4    
5    
6    
7    
8    

Alle zentralen Momente   lassen sich durch die Standardabweichung   darstellen:

 

dabei wurde die Doppelfakultät verwendet:

 

Auch für   kann eine Formel für nicht-zentrale Momente angegeben werden. Dafür transformiert man   und wendet den binomischen Lehrsatz an.

 

Die mittlere absolute Abweichung ist   und der Interquartilsabstand  .

Standardabweichung

Bearbeiten
 
Intervalle um   bei der Normalverteilung

Aus der Standardnormalverteilungstabelle ist ersichtlich, dass für normalverteilte Zufallsvariablen jeweils ungefähr

68,3 % der Realisierungen im Intervall  ,
95,4 % im Intervall   und
99,7 % im Intervall  

liegen. Da in der Praxis viele Zufallsvariablen annähernd normalverteilt sind, werden diese Werte aus der Normalverteilung oft als Faustformel benutzt. So wird beispielsweise   oft als die halbe Breite des Intervalls angenommen, das die mittleren zwei Drittel der Werte in einer Stichprobe umfasst.

Realisierungen außerhalb der zwei- bis dreifachen Standardabweichung gelten oft als verdächtig, Ausreißer zu sein. Sie können ein Hinweis auf grobe Fehler der Datenerfassung oder auch auf das Nichtvorhandensein einer Normalverteilung sein. Andererseits liegt bei einer Normalverteilung im Durchschnitt ca. jeder 20. Messwert außerhalb der zweifachen Standardabweichung und ca. jeder 370. Messwert außerhalb der dreifachen Standardabweichung, ohne dass es sich dabei um Ausreißer handelt.

 
Abhängigkeit der Wahrscheinlichkeit   einer standardnormalverteilten Zufallsvariablen   von  
 
Abhängigkeit der Wahrscheinlichkeit   einer standardnormalverteilten Zufallsvariablen   von  

Die Wahrscheinlichkeit, dass eine normalverteilte Zufallsvariable   einen Wert im Intervall   annimmt, ist genau so groß, wie die Wahrscheinlichkeit, dass ein standardnormalverteilte Zufallsvariable   einen Wert im Intervall   annimmt, es gilt also

 .[14]

Damit können bestimmte Wahrscheinlichkeitsaussagen für Normalverteilungen mit beliebigen Parametern   und   auf die Standardnormalverteilung zurückgeführt werden.

Die Wahrscheinlichkeit   kann alternativ durch die Verteilungsfunktion   der Standardnormalverteilung oder durch die Fehlerfunktion   ausgedrückt werden:

 [15]

Umgekehrt ist zu einer vorgegebenen Wahrscheinlichkeit   die Stelle  , für die   gilt, durch

 

gegeben.

Wahrscheinlichkeiten für eine standardnormalverteilte Zufallsvariable  
     
0,674490 50 % 50 %
1 68,268 9492 % 31,731 0508 %
1,17741
(Halbwertsbreite)
76,096 8106 % 23,903 1891 %
1,644854 90 % 10 %
2 95,449 9736 % 4,550 0264 %
2,575829 99 % 1 %
3 99,730 0204 % 0,269 9796 %
3,290527 99,9 % 0,1 %
3,890592 99,99 % 0,01 %
4 99,993 666 % 0,006 334 %
4,417173 99,999 % 0,001 %
4,891638 99,9999 % 0,0001 %
5 99,999 942 6697 % 0,000 057 3303 %
5,326724 99,999 99 % 0,000 01 %
5,730729 99,999 999 % 0,000 001 %
6 99,999 999 8027 % 0,000 000 1973 %

Halbwertsbreite

Bearbeiten

Der Wert der Dichtefunktion der Standardnormalverteilung fällt auf die Hälfte des Maximums, wenn  , also bei  . Die Halbwertsbreite ist damit das  fache der Standardabweichung.

Variationskoeffizient

Bearbeiten

Aus Erwartungswert   und Standardabweichung   der  -Verteilung erhält man unmittelbar den Variationskoeffizienten

 

Kumulanten

Bearbeiten

Die kumulantenerzeugende Funktion ist

 

Damit ist die erste Kumulante  , die zweite ist   und alle weiteren Kumulanten verschwinden.

Charakteristische Funktion

Bearbeiten

Die charakteristische Funktion für eine standardnormalverteilte Zufallsvariable   ist

 .

Für eine Zufallsvariable   erhält man daraus mit  :

 .

Invarianz gegenüber Faltung

Bearbeiten

Die Normalverteilung ist invariant gegenüber der Faltung, d. h., die Summe unabhängiger normalverteilter Zufallsvariablen ist wieder normalverteilt (siehe dazu auch unter stabile Verteilungen bzw. unter unendliche teilbare Verteilungen). Somit bildet die Normalverteilung eine Faltungshalbgruppe in ihren beiden Parametern. Eine veranschaulichende Formulierung dieses Sachverhaltes lautet: Die Faltung einer Gaußkurve der Standardabweichung   mit einer Gaußkurve der Standardabweichung   ergibt wieder eine Gaußkurve mit der Standardabweichung

 .

Sind also   zwei unabhängige Zufallsvariablen mit

 

so ist deren Summe ebenfalls normalverteilt:

 .

Das kann beispielsweise mit Hilfe von charakteristischen Funktionen gezeigt werden, indem man verwendet, dass die charakteristische Funktion der Summe das Produkt der charakteristischen Funktionen der Summanden ist (vgl. Faltungssatz der Fouriertransformation).

Damit ist jede Linearkombination wieder normalverteilt. Nach dem Satz von Cramér gilt sogar die Umkehrung: Ist eine normalverteilte Zufallsvariable die Summe von unabhängigen Zufallsvariablen, dann sind die Summanden ebenfalls normalverteilt. Man spricht davon, dass die Normalverteilung reproduktiv ist bzw. die Reproduktivitätseigenschaft besitzt.

Die Dichtefunktion der Normalverteilung ist ein Fixpunkt der Fourier-Transformation, d. h., die Fourier-Transformierte einer Gaußkurve ist wieder eine Gaußkurve. Das Produkt der Standardabweichungen dieser korrespondierenden Gaußkurven ist konstant; es gilt die Heisenbergsche Unschärferelation.

Entropie

Bearbeiten

Eine normalverteilte Zufallsvariable hat die Shannon-Entropie  .[16][17] Sie hat für gegebenen Erwartungswert und gegebene Varianz die größte Entropie unter allen stetigen Verteilungen.[18]

Anwendung

Bearbeiten

Beispiel zur Standardabweichung

Bearbeiten

Die Körpergröße des Menschen ist näherungsweise normalverteilt. Bei einer Stichprobe von 1.284 Mädchen und 1.063 Jungen zwischen 14 und 18 Jahren wurde bei den Mädchen eine durchschnittliche Körpergröße von 166,3 cm (Standardabweichung 6,39 cm) und bei den Jungen eine durchschnittliche Körpergröße von 176,8 cm (Standardabweichung 7,46 cm) gemessen.[19]

Demnach lässt obige Schwankungsbreite erwarten, dass 68,3 % der Mädchen eine Körpergröße im Bereich 166,3 cm ± 6,39 cm und 95,4 % im Bereich 166,3 cm ± 12,8 cm haben, also

  • 16 % [≈ (100 % − 68,3 %)/2] der Mädchen kleiner als 160 cm (und 16 % entsprechend größer als 173 cm) sind und
  • 2,5 % [≈ (100 % − 95,4 %)/2] der Mädchen kleiner als 154 cm (und 2,5 % entsprechend größer als 179 cm) sind.

Für die Jungen lässt sich erwarten, dass 68,3 % eine Körpergröße im Bereich 176,8 cm ± 7,46 cm und 95,4 % im Bereich 176,8 cm ± 14,92 cm haben, also

  • 16 % der Jungen kleiner als 169 cm (und 16 % größer als 184 cm) und
  • 2,5 % der Jungen kleiner als 162 cm (und 2,5 % größer als 192 cm) sind.

Kontaminierte Normalverteilung

Bearbeiten
 
Normalverteilung (a) und kontaminierte Normalverteilung (b)

Von der Verteilung

 

ist die Standardabweichung  . Die Verteilung ist optisch kaum von der Normalverteilung zu unterscheiden (siehe Bild), aber bei ihr liegen im Intervall   92,5 % der Werte. Solche kontaminierten Normalverteilungen sind in der Praxis häufig; das genannte Beispiel beschreibt die Situation, wenn zehn Präzisionsmaschinen etwas herstellen, aber eine davon schlecht justiert ist und mit zehnmal so hohen Abweichungen wie die anderen neun produziert.

Gestutzte Normalverteilung

Bearbeiten

Bei der gestutzten Normalverteilung ist die Wahrscheinlichkeitsdichte   außerhalb eines Intervalls   mit   gleich Null. Entsprechend erhöht sich   in dem Intervall, so dass das Integral   bleibt.

Six Sigma

Bearbeiten

Da der Anteil der Werte außerhalb der sechsfachen Standardabweichung mit ca. 2 ppb verschwindend klein wird, gilt ein solches Intervall als gutes Maß für eine nahezu vollständige Abdeckung aller Werte. Das wird im Qualitätsmanagement durch die Methode Six Sigma genutzt, indem die Prozessanforderungen Toleranzgrenzen von mindestens   vorschreiben. Allerdings geht man dort von einer langfristigen Erwartungswertverschiebung um 1,5 Standardabweichungen aus, sodass der zulässige Fehleranteil auf 3,4 ppm steigt. Dieser Fehleranteil entspricht einer viereinhalbfachen Standardabweichung ( ). Ein weiteres Problem der  -Methode ist, dass die  -Punkte praktisch nicht bestimmbar sind. Bei unbekannter Verteilung (d. h., wenn es sich nicht ganz sicher um eine Normalverteilung handelt) grenzen zum Beispiel die Extremwerte von 1.400.000.000 Messungen ein 75-%-Konfidenzintervall für die  -Punkte ein.[20]

Beziehungen zu anderen Verteilungsfunktionen

Bearbeiten

Normalverteilung als Grenzverteilung der Binomialverteilung

Bearbeiten

Die Binomialverteilung ist eine diskrete Verteilung, die sich aus einer Anzahl an Versuchen   ergibt. Jeder einzelne Versuch hat die Wahrscheinlichkeit eines Erfolges  . Die Binomialverteilung   gibt dann die Wahrscheinlichkeit an, dass die   Versuche genau  -mal ein Erfolg war, mit  .

Durch einen Grenzübergang für   ergeben sich die Dichtefunktion einer Normalverteilung aus der Wahrscheinlichkeitsfunktion der Binomialverteilung (lokaler Grenzwertsatz von Moivre-Laplace) und die Verteilungsfunktion einer Normalverteilung aus der Verteilungsfunktion der Binomialverteilung (globaler Grenzwertsatz von Moivre-Laplace). Dies ist eine Rechtfertigung dafür, die Binomialverteilung mit den Parametern   und   für hinreichend große   durch die Normalverteilung   zu approximieren.

Approximation der Binomialverteilung durch die Normalverteilung

Bearbeiten

Die Normalverteilung kann zur Approximation der Binomialverteilung verwendet werden, wenn der Stichprobenumfang hinreichend groß und in der Grundgesamtheit der Anteil der gesuchten Eigenschaft weder zu groß noch zu klein ist (Satz von Moivre-Laplace, zentraler Grenzwertsatz, zur experimentellen Bestätigung siehe auch unter Galtonbrett).

Ist ein Bernoulli-Versuch mit   voneinander unabhängigen Stufen (bzw. Zufallsexperimenten) mit einer Erfolgswahrscheinlichkeit   gegeben, so lässt sich die Wahrscheinlichkeit für   Erfolge allgemein durch   berechnen (Binomialverteilung).

Diese Binomialverteilung kann durch eine Normalverteilung approximiert werden, wenn   hinreichend groß und   weder zu groß noch zu klein ist. Als Faustregel dafür gilt  . Für den Erwartungswert   und die Standardabweichung   gilt dann:

  und  .

Damit gilt für die Standardabweichung  .

Falls diese Bedingung nicht erfüllt sein sollte, ist die Ungenauigkeit der Näherung immer noch vertretbar, wenn gilt:   und zugleich  .

Folgende Näherung ist dann brauchbar:

 

Bei der Normalverteilung wird die untere Grenze um 0,5 verkleinert und die obere Grenze um 0,5 vergrößert, um eine bessere Approximation gewährleisten zu können. Dies nennt man auch „Stetigkeitskorrektur“. Nur wenn   einen sehr hohen Wert besitzt, kann auf sie verzichtet werden.

Da die Binomialverteilung diskret ist, muss auf einige Punkte beim Rechnen mit einer binomialverteilten Zufallsvariablen   geachtet werden:

  • Der Unterschied zwischen   oder   (sowie zwischen größer und größer gleich) muss beachtet werden (was ja bei der Normalverteilung nicht der Fall ist). Deshalb muss bei   die nächstkleinere natürliche Zahl gewählt werden, d. h.
  bzw.  ,
damit mit der Normalverteilung weitergerechnet werden kann.
Zum Beispiel:  
  • Außerdem ist
 
 
  (unbedingt mit Stetigkeitskorrektur)
und lässt sich somit durch die oben angegebene Formel berechnen.

Der große Vorteil der Approximation liegt darin, dass sehr viele Stufen einer Binomialverteilung sehr schnell und einfach bestimmt werden können.

Beziehung zur Cauchy-Verteilung

Bearbeiten

Der Quotient von zwei stochastisch unabhängigen  -standardnormalverteilten Zufallsvariablen ist Cauchy-verteilt.

Beziehung zur Chi-Quadrat-Verteilung

Bearbeiten

Das Quadrat einer standardnormalverteilten Zufallsvariablen hat eine Chi-Quadrat-Verteilung mit einem Freiheitsgrad. Also: Wenn  , dann  . Weiterhin gilt: Wenn   gemeinsam stochastisch unabhängige Chi-Quadrat-verteilte Zufallsvariablen sind, dann gilt

 .

Daraus folgt mit unabhängig und standardnormalverteilten Zufallsvariablen  :[21]

 

Weitere Beziehungen sind:

  • Die Summe   mit   und   unabhängigen normalverteilten Zufallsvariablen   genügt einer Chi-Quadrat-Verteilung   mit   Freiheitsgraden.
  • Die Chi-Quadrat-Verteilung wird zur Konfidenzschätzung für die Varianz einer normalverteilten Grundgesamtheit verwendet.

Beziehung zur Rayleigh-Verteilung

Bearbeiten

Der Betrag   zweier unabhängiger normalverteilter Zufallsvariablen  , jeweils mit Mittelwert   und gleichen Varianzen  , ist Rayleigh-verteilt mit Parameter  .

Beziehung zur logarithmischen Normalverteilung

Bearbeiten

Ist die Zufallsvariable   normalverteilt mit  , dann ist die Zufallsvariable   logarithmisch-normalverteilt, also  .

Die Entstehung einer logarithmischen Normalverteilung ist auf multiplikatives, die einer Normalverteilung auf additives Zusammenwirken vieler Zufallsvariablen zurückführen.

Beziehung zur F-Verteilung

Bearbeiten

Wenn die stochastisch unabhängigen und normalverteilten Zufallsvariablen   und   die Parameter

 

und

 

besitzen, dann unterliegt die Zufallsvariable

 

einer F-Verteilung mit   Freiheitsgraden. Dabei sind

 .

Beziehung zur studentschen t-Verteilung

Bearbeiten

Wenn die stochastisch unabhängigen Zufallsvariablen   identisch normalverteilt sind mit den Parametern   und  , dann unterliegt die stetige Zufallsvariable

 

mit dem Stichprobenmittel   und der Stichprobenvarianz   einer studentschen t-Verteilung mit   Freiheitsgraden.

Für eine zunehmende Anzahl an Freiheitsgraden nähert sich die studentsche t-Verteilung der Normalverteilung immer näher an. Als Faustregel gilt, dass man ab ca.   die studentsche t-Verteilung bei Bedarf durch die Normalverteilung approximieren kann.

Die studentsche t-Verteilung wird zur Konfidenzschätzung für den Erwartungswert einer normalverteilten Zufallsvariable bei unbekannter Varianz verwendet.

Testen auf Normalverteilung

Bearbeiten
 
Quantile einer Normalverteilung und einer Chi-Quadrat-Verteilung
 
Eine χ²-verteilte Zufallsvariable mit 5 Freiheitsgraden wird auf Normalverteilung getestet. Für jeden Stichprobenumfang werden 10.000 Stichproben simuliert und anschließend jeweils 5 Anpassungstests zu einem Niveau von 5 % durchgeführt.

Um zu überprüfen, ob vorliegende Daten normalverteilt sind, können unter anderen folgende Methoden und Tests angewandt werden:

Die Tests haben unterschiedliche Eigenschaften hinsichtlich der Art der Abweichungen von der Normalverteilung, die sie erkennen. So erkennt der Kolmogorov-Smirnov-Test Abweichungen in der Mitte der Verteilung eher als Abweichungen an den Rändern, während der Jarque-Bera-Test ziemlich sensibel auf stark abweichende Einzelwerte an den Rändern („schwere Ränder“) reagiert.

Beim Lilliefors-Test muss im Gegensatz zum Kolmogorov-Smirnov-Test nicht standardisiert werden, d. h.,   und   der angenommenen Normalverteilung dürfen unbekannt sein.

Mit Hilfe von Quantil-Quantil-Diagrammen bzw. Normal-Quantil-Diagrammen ist eine einfache grafische Überprüfung auf Normalverteilung möglich.
Mit der Maximum-Likelihood-Methode können die Parameter   und   der Normalverteilung geschätzt und die empirischen Daten mit der angepassten Normalverteilung grafisch verglichen werden.

Erzeugung normalverteilter Zufallszahlen

Bearbeiten

Alle folgenden Verfahren erzeugen standardnormalverteilte Zufallszahlen. Durch lineare Transformation lassen sich hieraus beliebige normalverteilte Zufallszahlen erzeugen: Ist die Zufallsvariable  -verteilt, so ist   schließlich  -verteilt.

Box-Muller-Methode

Bearbeiten

Nach der Box-Muller-Methode lassen sich zwei unabhängige, standardnormalverteilte Zufallsvariablen   und   aus zwei unabhängigen, gleichverteilten Zufallsvariablen  , sogenannten Standardzufallszahlen, simulieren:

 

und

 

Polar-Methode

Bearbeiten

Die Polar-Methode von George Marsaglia ist auf einem Computer schneller, da sie keine Auswertungen von trigonometrischen Funktionen benötigt:

  1. Erzeuge zwei voneinander unabhängige, im Intervall   gleichverteilte Zufallszahlen   und  
  2. Berechne  . Falls   oder  , gehe zurück zu Schritt 1.
  3. Berechne  .
  4.   für   liefert zwei voneinander unabhängige, standardnormalverteilte Zufallszahlen   und  .

Ziggurat-Algorithmus

Bearbeiten

Der Ziggurat-Algorithmus, der ebenfalls von George Marsaglia entwickelt wurde, ist effizienter als die Box-Muller-Methode.[22] Er ist der voreingestellte Algorithmus, mit dem in Matlab und Octave normalverteilte Zufallszahlen erzeugt werden.[23][24]

Verwerfungsmethode

Bearbeiten

Normalverteilungen lassen sich mit der Verwerfungsmethode (siehe dort) simulieren.

Inversionsmethode

Bearbeiten

Die Normalverteilung lässt sich auch mit der Inversionsmethode berechnen.

Mit der  -gleichverteilten Verteilung   wird über die Inverse Verteilungsfunktion die Standardnormalverteilung erzeugt:

 

Da die inverse Verteilungsfunktion nicht explizit mit elementaren Funktionen darstellbar ist, muss man auf eine komplexere numerische Darstellung zurückgreifen, mit relativ hohem Aufwand. Reihenentwicklungen sind in der Literatur zu finden.[25]

Zwölferregel

Bearbeiten

Die Zwölferregel liefert keine exakte Normalverteilung, diese wird nur genähert. Der zentrale Grenzwertsatz besagt, dass sich unter bestimmten Voraussetzungen die Verteilung der Summe unabhängig und identisch verteilter Zufallszahlen einer Normalverteilung nähert.

Nach der Zwölferregel wird die Standardnormalverteilung durch die Verteilung der Zufallsvariablen   approximiert, wobei   die Summe von zwölf stochastisch unabhängigen, im Intervall [0,1] gleichverteilten Zufallszahlen   ist. Der Erwartungswert von   ist 6 und die Varianz von   ist 1, sodass die Zufallsvariable   den Erwartungswert 0 und die Varianz 1 hat. Dies führt für viele Anwendungen zu einer akzeptablen Approximation. Das Verfahren ist allerdings weder effizient noch wird eine echte Normalverteilung erreicht.

Zudem ist die geforderte Unabhängigkeit der zwölf Zufallsvariablen   bei den immer noch häufig verwendeten Linearen Kongruenzgeneratoren (LKG) nicht garantiert. Im Gegenteil wird vom Spektraltest für LKG meist nur die Unabhängigkeit von maximal vier bis sieben der   garantiert. Für numerische Simulationen ist die Zwölferregel daher sehr bedenklich und sollte, wenn überhaupt, dann ausschließlich mit aufwändigeren, aber besseren Pseudo-Zufallsgeneratoren wie z. B. dem Mersenne-Twister (Standard in Python, GNU R) oder WELL genutzt werden. Andere, sogar leichter zu programmierende Verfahren sind daher der Zwölferregel vorzuziehen.

Anwendungen außerhalb der Wahrscheinlichkeitsrechnung

Bearbeiten

In der Statistik ist die Normalverteilung eine wichtige Wahrscheinlichkeitsverteilung. Sie wird verwendet zur Modellierung einer Merkmalsverteilung in der Grundgesamtheit und zur Modellierung der Verteilung von Messfehlern. Außerdem entsteht sie als asymptotische Verteilung von Schätzfunktionen und allgemeineren Statistiken, siehe dazu zentrale Grenzwertsätze der Statistik.

Die Normalverteilung lässt sich auch zur Beschreibung nicht direkt stochastischer Sachverhalte verwenden, etwa in der Physik für das Amplitudenprofil der Gauß-Strahlen und andere Verteilungsprofile.

Zudem findet sie Verwendung in der Gabor-Transformation im Bereich der Signal- und Bildbearbeitung.

Siehe auch

Bearbeiten

Literatur

Bearbeiten
  • Catherine Forbes, Merran Evans, Nicholas Hastings, Brain Peacock (Hrsg.): Statistical Distributions. 4. Auflage. Wiley & Sons, Hoboken 2011, ISBN 978-0-470-39063-4, Kap. 33: Normal (Gaussian) Distribution, S. 143–148.
  • P. H. Müller (Hrsg.): Lexikon der Stochastik – Wahrscheinlichkeitsrechnung und mathematische Statistik. 5. Auflage. Akademie-Verlag, Berlin 1991, ISBN 978-3-05-500608-1, Normalverteilung, S. 288–290.
  • Horst Rinne: Taschenbuch der Statistik. 4. Auflage. Harri Deutsch, Frankfurt am Main 2008, ISBN 978-3-8171-1827-4, Teil B, Kap. 3.10.1: Eindimensionale Normalverteilung, S. 298–306.
  • Jagdish K. Patel, Campbell R. Read: Handbook of the Normal Distribution (= Statistics:Textbooks and Monographs). Second edition, revised and expanded Auflage. Dekker, New York / Basel / Hong Kong 1966, ISBN 0-8247-9342-0.
  • Stephen M. Stigler: The history of statistics: the measurement of uncertainty before 1900. Belknap Series. Harvard University Press, 1986. ISBN 978-0-674-40341-3.
  • Paul J. Nahin: The Probability Integral. Its Origin, Its Importance, and Its Calculation. Springer, Cham 2023, ISBN 978-3-03138415-8.
Bearbeiten
Commons: Normalverteilung – Sammlung von Bildern, Videos und Audiodateien

Einzelnachweise

Bearbeiten
  1. Wolfgang Götze, Christel Deutschmann, Heike Link: Statistik. Lehr- und Übungsbuch mit Beispielen aus der Tourismus- und Verkehrswirtschaft. Oldenbourg, München 2002, ISBN 3-486-27233-0, S. 170 (eingeschränkte Vorschau in der Google-Buchsuche).
  2. Sur l'appréciation des documents statistiques, et en particulier sur l'appréciation des moyennes. In: Bulletin de la Commission Centrale des Statistique. Band 2, 1845, S. 205–286 (google.be).
  3. Francis Galton: Natural Inheritance. Macmillan, London 1889, S. 51, Normal Curve of Distribution.
  4. Herbert A. David: First (?) Occurence of Common Terms in Mathematical Statistics. In: The American Statistician. Band 49, Nr. 2, 1995, S. 121–133, JSTOR:2684625.
  5. Jeff Miller: Earliest Known Uses of Some of the Words of Probability & Statistics. Abgerufen am 27. September 2023.
  6. Stephen M. Stigler: Statistics on the Table. The History of Statistical Concepts and Methods. Harvard University Press, Cambridge / London 1999, ISBN 0-674-00979-7.
  7. Charles S. Peirce: On the theory of errors of observations. In: Report of the Superintendent of the U. S. Coast Survey for the Year Ending June 1870, Appendix no. 21. S. 200–224 (Wiederabgedruckt in S. M. Stigler (Hrsg.), American Contributions to Mathematical Statistics in the Ninteenth Century, 2 Bände. Arno Press, New York 1980).
  8. Francis Galton: Typical laws of heredity. In: Nature. Band 15, 1877, S. 492–495, 512–514, 532–533 (Auch publiziert in Proceedings of the Royal Institution of Great Britain. Band 8, 1877, S. 282–301).
  9. Wilhelm Lexis: Zur Theorie der Massenerscheinungen in der menschlichen Gesellschaft. Fr. Wagner’sche Buchhandlung, Freiburg i. B. 1877 (utlib.ee [PDF]).
  10. Bronstein: Taschenbuch der Mathematik. Kap. 16, Wahrscheinlichkeitsrechnung und mathematische Statistik.
  11. George G. Judge, R. Carter Hill, W. Griffiths, Helmut Lütkepohl, T. C. Lee: Introduction to the Theory and Practice of Econometrics. 1988, S. 47.
  12. P. H. Müller (Hrsg.): Lexikon der Stochastik – Wahrscheinlichkeitsrechnung und mathematische Statistik. 5. Auflage. Akademie-Verlag, Berlin 1991, ISBN 978-3-05-500608-1, Normalveretilung, S. 289.
  13. Bronstein: Taschenbuch der Mathematik. Kap. 16, Wahrscheinlichkeitsrechnung und mathematische Statistik. 5. Auflage. Harri Deutsch Verlag, 2000, ISBN 3-8171-2005-2, S. 779.
  14. Es gilt
     
    Die letzte Gleichung gilt, da die standardisierte Zufallsvariable   standardnormalverteilt ist.
  15. Es gilt
     
    Das vorletzte Gleichheitszeichen gilt, da die Standardnormalverteilung symmetrisch zu Null ist.
  16. Horst Rinne: Taschenbuch der Statistik. 2008, S. 302.
  17. Catherine Forbes et al. (Hrsg.): Statistical Distributions. 2011, S. 144.
  18. P. H. Müller (Hrsg.): Lexikon der Stochastik – Wahrscheinlichkeitsrechnung und mathematische Statistik. 5. Auflage. Akademie-Verlag, Berlin 1991, ISBN 978-3-05-500608-1, Entropie einer Zufallsgröße, S. 86.
  19. Mareke Arends: Epidemiologie bulimischer Symptomatik unter 10-Klässlern in der Stadt Halle. Dissertation. Martin-Luther-Universität Halle-Wittenberg, 2005, Tabelle 9, S. 30. urn:nbn:de:gbv:3-000008151
  20. H. Schmid, A. Huber: Measuring a Small Number of Samples and the 3σ Fallacy. (PDF; 1,6 MB) In: IEEE Solid-State Circuits Magazine, Band 6, Nr. 2, 2014, S. 52–58, doi:10.1109/MSSC.2014.2313714.
  21. George G. Judge, R. Carter Hill, W. Griffiths, Helmut Lütkepohl, T. C. Lee: Introduction to the Theory and Practice of Econometrics. 1988, S. 49.
  22. Michael Günther, Ansgar Jüngel: Finanzderivate mit MATLAB - Mathematische Modellierung und numerische Simulation. Vieweg+Teubner Verlag, 2003, ISBN 978-3-8348-0879-0, S. 115.
  23. Creating and Controlling a Random Number Stream in Matlab. Abgerufen am 16. September 2023.
  24. Octave Function Reference: randn. Abgerufen am 16. September 2023.
  25. William B. Jones, W. J. Thron: Continued Fractions: Analytic Theory and Applications. Addison-Wesley, 1980.