Multinomiale logistische Regression

In der Statistik ist die multinomiale logistische Regression, auch multinomiales Logit-Modell[1], multinomiale Logit-Regression (MNL), polytome logistische Regression, polychotome logistische Regression, Softmax-Regression oder Maximum-Entropie-Klassifikator genannt, ein regressionsanalytisches Verfahren. Sie „dient zur Schätzung von Gruppenzugehörigkeiten bzw. einer entsprechenden Wahrscheinlichkeit hierfür.“[2] Die Antwortvariable (auch abhängige Variable, AV) ist dabei eine nominalskalierte Variable (Unterform der kategorialen Variable, bei der die Kategorien nicht in eine sinnvolle Reihenfolge zu bringen sind). Im Falle einer ordinalskalierten AV (ebenfalls kategorial, aber in Reihenfolge mit gleichmäßigen Abständen zwischen den Kategorien zu bringen) spricht man von einer geordneten (bzw. ordinalen) logistischen Regression. Bei gegebener verhältnis- oder intervallskalierter AV kann dagegen eine (Multiple) Lineare Regression gerechnet werden.

Beschreibung des Verfahrens

Bearbeiten

Es handelt sich um eine spezielle Form der logistischen Regression, bei der die Antwortvariable   ein nominales Skalenniveau mit mehr als zwei Ausprägungen haben darf  . Zusätzlich ist der Vektor der Regressoren   gegeben. Dabei wird für jede der Ausprägungen der abhängigen Variablen (bis auf eine Referenzkategorie) ein eigenes Regressionsmodell ausgegeben. Die Eintrittswahrscheinlichkeit für jede Kategorie   ist wie folgt spezifiziert:[3]:330

 ,

mit den linearen Prädiktoren   und   als der Antwortfunktion, d. h. der Umkehrfunktion der Kopplungsfunktion.[3]:344 Für die Referenzkategorie gilt somit:

 .

Likelihood-Funktion

Bearbeiten

Die beobachteten Werte   für   der erklärten Variablen werden als Realisierungen stochastisch unabhängiger kategorial verteilter Zufallsvariablen   aufgefasst.

Die Likelihood-Funktion ist für dieses Modell definiert durch:

 

wobei der Index   die Beobachtungen 1 bis n bezeichnet und der Index   die Klassen 1 bis K.   ist das Kronecker-Delta.

Die mit minus 1 multiplizierte log Likelihood-Funktion ist daher die bekannte Kreuzentropie:

 

Beispiel

Bearbeiten

Das Beispiel behandelt die Wahlabsicht einer Person in Abhängigkeit personenspezifischer Faktoren. Aus Umfragedaten sei die Wahlabsicht einer Person nach verschiedenen Parteien bekannt (abhängige kategoriale Variable). Diese soll erklärt werden durch verschiedene Faktoren (deren Skalenniveau unerheblich ist), beispielsweise Alter, Geschlecht und Bildung.

Literatur

Bearbeiten
  • David W. Hosmer, Stanley Lemeshow: Applied logistic regression. 2. Auflage. Wiley, New York 2000, ISBN 0-471-35632-8, Abschnitt 8.1 The multinomial logistic regression, S. 260–287.
  • Gerhard Tutz: Die Analyse kategorialer Daten – Anwendungsorientierte Einführung in Logit-Modellierung und kategoriale Regression. Oldenbourg, München / Wien 2000, ISBN 3-486-25405-7, Abschnitt 5.2 Das multinomiale Logit-Modell, S. 162–173.
  • Gerhard Tutz: Regression for Categorical Data. Cambridge University Press, Cambridge 2012, ISBN 978-1-107-00965-3, Kap. 8.2 The Multinomial Logit-Model, S. 210–214.
Bearbeiten

Einzelnachweise

Bearbeiten
  1. Gerhard Tutz: Die Analyse kategorialer Daten – Anwendungsorientierte Einführung in Logit-Modellierung und kategoriale Regression. Oldenbourg, München / Wien 2000, ISBN 3-486-25405-7, Abschnitt 5.2 Das multinomiale Logit-Modell, S. 162–173.
  2. Archivierte Kopie (Memento vom 27. März 2014 im Internet Archive)
  3. a b Ludwig Fahrmeir, Thomas Kneib, Stefan Lang, Brian Marx: Regression: models, methods and applications. Springer Science & Business Media, 2013, ISBN 978-3-642-34332-2