Algorithmische Informationstheorie

Zusammenfassung

In Kapitel 5 haben wir uns ausführlich mit der Funktionsweise von Turing-Maschinen beschäftigt und dabei zwei wichtige Beobachtungen gemacht: Einerseits können wir Turing-Maschinen dazu verwenden, um Zeichensequenzen zu generieren. Andererseits können wir sie wie die Programme einer beliebigen Programmiersprache behandeln und somit selbst als Zeichensequenzen auffassen. In diesem Abschnitt werden wir diese Beziehung verallgemeinern und eine Zeichensequenz s mit dem kürzesten Programm in Bezug setzen, das s erzeugt. Auf diese Weise wird es uns gelingen, den Informationsgehalt oder die Komplexität einer endlich langen oder unendlich langen Zeichenkette exakt zu messen. Die ersten Untersuchungen dieser Art wurden gegen Ende der Sechzigerjahre von Ray Solomonoff, Andrej Kolmogorov und Gregory Chaitin durchgeführt. Aus diesen Forschungsarbeiten hat sich eine neue Theorie der Information entwickelt, die wir heute als algorithmische Informationstheorie bezeichnen.