Additive Glättung

In der Statistik bezeichnet das additive Glätten, auch bekannt als Laplace-Glättung, eine Technik zur Glättung von Zähldaten, um Probleme zu beseitigen, die durch das Auftreten der Häufigkeit 0 eines Ereignisses verursacht werden.

Definition

Gegeben seien die beobachtete Zahlen (Engl. counts) $\mathbf {n} =\left\langle n_{1},n_{2},\ldots ,n_{d}\right\rangle$von verschiedenen Merkmalsausprägungen $1,2,\dots d$, dann ist der additiv geglätte Schätzer für die Parameter der Multinomialverteilung:

${\hat {p}}_{i}={\frac {n_{i}+\alpha }{N+\alpha d}}\qquad (i=1,\ldots ,d),$

mit $N=\sum _{i}n_{i}$ und $\alpha =1,\dots$ ein Glättungsparameter.

Man beachte, dass der additiv geglättete Schätzer der Parameter vom Maximum-Likelihood-Schätzer ${\hat {p}}_{i}^{ML}={\frac {n_{i}}{N}}\qquad (i=1,\ldots ,d),$ abweicht.

Motivation

Ein Grund für den Einsatz der Glättung ist auch für bisher nicht beobachtete Ausprägungen ($n_{i}=0$) in generativen Modellen einen erzeugenden Pfad zu ermöglichen. Der geglättete Schätzer kann in der Bayesschen Statistik als Maximum-a-posteriori Schätzer betrachtet werden, der mithilfe einer Prior-Verteilung folgt.

Die Laplace-Glättung mit einem Glättungsparameter von $\alpha =1$ kann intuitiv verstanden werden, da sie darauf hinweist, dass selbst für Ereignisse, die derzeit nicht beobachtet werden, mindestens eine Beobachtung vorhanden sein muss. Andernfalls würde man nichts über die Existenz des Ereignisses wissen.