Schwache Lerner und Boosting

Zusammenfassung

Die Anforderungen, die das PAC-Modell an einen Lernalgorithmus stellt, sind sehr hoch. Nicht nur muß bezüglich jeder Verteilung gelernt werden können, sondern es muß auch ein beliebig kleiner Fehler mit einer beliebig hohen Zuverlässigkeit erreicht werden können. In diesem Kapitel werden wir Algorithmen betrachten, die die Fehler- oder Zuverlässigkeitsbedingung oder beide nicht erfüllen. Wir werden sehen, daß man aus solchen Algorithmen PAC-Lerner konstruieren kann, wenn sie „nur ein bißchen besser sind als ein Münzwurf“. Diesen Prozeß, die Güte eines Verfahrens zu erhöhen, bezeichnet man (nicht nur in der Lerntheorie) als Boosting, übersetzt etwa Verstärkung. Die Ergebnisse, die in diesem Kapitel vorgestellt werden, stammen im wesentlichen von Schapire [Sch90].