Empirische Risikominimierung

Empirische Risikominimierung ist ein häufig angewendetes Prinzip der statistischen Inferenz^[1]. Sie wird beim überwachten Lernen verwendet. Beim maschinellen Lernen ist es häufig nicht möglich, alle möglichen Eingabedaten zu kennen oder zu testen. Daher wird bei der empirischen Risikominimierung mit einer bekannten Teilmenge der möglichen Eingabedaten gearbeitet.

Definition

Die Risikofunktion ist:

R(h_{\theta })=\mathbf {E} [L(h_{\theta }(x),y)]=\int L(h_{\theta }(x),y)\,dP(x,y),

wobei L eine Verlustfunktion (z. B. die 0-1 Verlustfunktion) ist, $h_{\theta }$ eine von den Realisierungen $x$ abhängige und durch $\theta$ parametrisierte Hypothese, y ein Label. Die Risikominimierung hat zum Ziel $R(h_{\theta })$ zu minimieren, indem die Parameter $\theta$ angepasst werden. Beispielsweise minimiert der Bayes-Klassifikator das Risiko einer Falschklassifikation.

Ziel der Lernverfahren ist es die Hypothese $h_{\theta ^{*}}$ im Raum der untersuchten Hypothesen ${\mathcal {H}}$ zu finden, für das Risiko minimiert wird:

h_{\theta ^{*}}={\underset {h\in {\mathcal {H}}}{\operatorname {arg\,min} }}\,{R(h)},

siehe auch arg min.

In der empirischen Risikominimierung stehen jedoch nicht die echten Wahrscheinlichkeitsdichten $P(x,y)$ zur Verfügung, sodass stattdessen der empirische Schätzer ${\hat {R}}(h_{\theta })={\frac {1}{n}}\sum _{i=1}^{n}L(h_{\theta }(x_{i}),y_{i})$ minimiert wird, welcher nach dem Gesetz der großen Zahlen gegen den Erwartungswert konvergiert.

Eigenschaften

Die Auswahl einer Verlustfunktion entscheidet über die Modellausgabe. Im Rahmen der Probabilistischen Klassifikation können Scoring rules als Verlustfunktion eingesetzt werden um die Wahrscheinlichkeitskalibrierung zu verbessern.

Verlustfunktion Mittlerer quadratischer Fehler

Minimierung des mittleren quadratischen Fehlers $\operatorname {M} SE({\hat {Y}}(X),Y)=\operatorname {E} _{Y|X}\left(\left(Y-{\hat {Y}}(X)\right)^{2}\right)$ liefert eine Schätzung des bedingten Erwartungswertes^[2]: ${\frac {\partial \operatorname {M} SE({\hat {Y}}(X),Y)}{\partial {\hat {Y}}(X)}}=-2\operatorname {E} _{Y|X}\left(\left(Y-{\hat {Y}}(X)\right)\right){\overset {!}{=}}0\implies \operatorname {E} _{Y|X}\left(Y-{\hat {Y}}(X)\right)=0\implies \operatorname {E} _{Y|X}\left(Y\right)=\operatorname {E} _{Y|X}\left({\hat {Y}}(X)\right)={\hat {Y}}(X)$

Verlustfunktion Mittlerer absoluter Fehler

Minimierung des mittleren absoluten Fehlers $\operatorname {M} AE({\hat {Y}}(X),Y)=\operatorname {E} _{Y|X}\left(\left|Y-{\hat {Y}}(X)\right|\right)$ liefert eine Schätzung des bedingten Medians: ${\frac {\partial \operatorname {M} AE({\hat {Y}}(X),Y)}{\partial {\hat {Y}}(X)}}{\overset {!}{=}}0\implies {\hat {Y}}(X)=\mathrm {Median} _{Y|X}$ wobei beim Beweis auf die Leibnizregel für Parameterintegrale zurückgegriffen wird.

Quantilsverlustfunktion

Minimierung des Erwartungswertes der Quantilsverlustfunktion liefert die Quantilsschätzung, der Beweis greift (wie beim mittleren absoluten Fehler) auf die Leibnizregel für Parameterintegrale zurück:

0=\partial _{\hat {Y}}Q_{\tau }(Y,{\hat {Y}}(X))=\partial _{\hat {Y}}\operatorname {E} _{Y|X}\left(w_{\tau }(Y,{\hat {Y}}(X))|Y-{\hat {Y}}(X)|\right),

wobei

w_{\tau }(Y,{\hat {Y}}(X))={\begin{cases}1-\tau &{\textrm {falls}}\quad Y<{\hat {Y}}(X)\\\tau &{\textrm {falls}}\quad Y>{\hat {Y}}(X)\end{cases}}.

Verlustfunktion Absolute Percentage Error

Im Kontext der MAPE-Regression wird die Nähe von $g(X)$ zu $Y$ durch Mean absolute percentage error gemessen, und das Ziel von MAPE-Regressionen besteht darin, ein Modell $g_{\text{MAPE}}(x)$ zu finden, so dass:

Y_{\mathrm {MAPE} }(x)=\arg \min _{g\in {\mathcal {G}}}\mathbb {E} {\Biggl [}\left|{\frac {g(X)-Y}{Y}}\right||X=x{\Biggr ]}

wobei ${\mathcal {G}}$ die Klasse der in Betracht gezogenen Modelle ist.

In der Praxis kann $Y_{\text{MAPE}}(x)$ durch die Strategie der empirischen Risikominimierung geschätzt werden, was zu folgender Formel führt:

{\widehat {Y}}_{\text{MAPE}}(x)=\arg \min _{g\in {\mathcal {G}}}\sum _{i=1}^{n}\left|{\frac {g(X_{i})-Y_{i}}{Y_{i}}}\right|

Es ist daher offensichtlich, dass die MAPE-Regression equivalent zu einer gewichteten Mean Absolute Error-Regression ist:

{\widehat {Y}}_{\text{MAPE}}(x)=\arg \min _{g\in {\mathcal {G}}}\sum _{i=1}^{n}\underbrace {\frac {1}{|Y_{i}|}} _{w_{i}}\left|g(X_{i})-Y_{i}\right|,

mit Gewichten $w_{i}$

Tilted Empirical Risk Minimization

Tilted Empirical Risk Minimization (TERM)^[3] dient dazu eine Verlustfunktion wie die quadratische Abweichung durch die Einführung eines Tilting-Parameters anzupassen. Dieser Parameter passt die Gewichtung von Datenpunkten während des Trainings dynamisch an, wodurch der Algorithmus sich auf bestimmte Bereiche oder Eigenschaften der Datenverteilung konzentrieren kann. TERM ist besonders nützlich in Szenarien mit unausgeglichen Klassenhäufigkeiten (imbalanced data) oder wenn es erforderlich ist, Fehler in bestimmten Teilen des Vorhersageraums zu betonen.

Gewichtete empirische Risikominimierung

Die nach Wichtigkeit gewichtete empirische Risikominimierung (Importance weighted Empirical Risk Minimization) beruht auf dem Prinzip des Importance Sampling und dient dazu, die Auswirkungen von Abweichungen zwischen der Verteilungen der Trainingsdaten und der realen Daten zu minimieren. Dies ist besonders relevant in Situationen, in denen eine verzerrte Stichprobenauswahl oder Verteilungsverschiebungen (distribution drifts) vorliegen^[4].

Siehe auch

Einzelnachweise

↑ Ian Goodfellow, Yoshua Bengio, Aaron Courville: Deep Learning – Das umfassende Handbuch: Grundlagen, aktuelle Verfahren und Algorithmen, neue Forschungsansätze. MITP, Frechen 2018, ISBN 978-3-95845-702-7.
↑ Beachte: während dieses Resultat auch für heteroskedastische Fehler gilt, ist der Schätzer, welcher durch Minimierung des mittleren quadratischen Fehlers erhalten wird, nicht mehr am effizientesten (obwohl er unverzerrt ist).
↑ Li, Tian, et al. "Tilted empirical risk minimization." https://arxiv.org/abs/2007.01162
↑ What is the Effect of Importance Weighting in Deep Learning? Jonathon Byrd, Zachary C. Lipton https://arxiv.org/abs/1812.03372v3
↑ Maximum Likelihood in Cost-Sensitive Learning: Model Specification, Approximations, and Upper BoundsAuthors: Jacek P. Dmochowski, Paul Sajda, Lucas C. Parra, https://dl.acm.org/doi/10.5555/1756006.1953037

[1] Ian Goodfellow, Yoshua Bengio, Aaron Courville: Deep Learning – Das umfassende Handbuch: Grundlagen, aktuelle Verfahren und Algorithmen, neue Forschungsansätze. MITP, Frechen 2018, ISBN 978-3-95845-702-7.

[2] Beachte: während dieses Resultat auch für heteroskedastische Fehler gilt, ist der Schätzer, welcher durch Minimierung des mittleren quadratischen Fehlers erhalten wird, nicht mehr am effizientesten (obwohl er unverzerrt ist).

[3] Li, Tian, et al. "Tilted empirical risk minimization." https://arxiv.org/abs/2007.01162

[4] What is the Effect of Importance Weighting in Deep Learning? Jonathon Byrd, Zachary C. Lipton https://arxiv.org/abs/1812.03372v3

[5] Maximum Likelihood in Cost-Sensitive Learning: Model Specification, Approximations, and Upper BoundsAuthors: Jacek P. Dmochowski, Paul Sajda, Lucas C. Parra, https://dl.acm.org/doi/10.5555/1756006.1953037

[1]

[2]

[3]

[4]

[5]