Information und Codierung

Zusammenfassung

In der Informationstheorie stellt man sich die Frage, was Information ist, und wie sie gemessen werden kann. Diese Problemstellung führt auf weitverzweigte, interessante und nützliche Theorien, von denen wir hier die Anfänge darstellen wollen. Da in der Informationstheorie Begriffe aus der Wahrscheinlichkeitsrechnung benutzt werden, wollen wir uns deren Grundzüge in einem ersten Abschnitt aneignen. In der Codierungstheorie versucht man Information durch Wörter über einem endlichen Alphabet so darzustellen, daß sie anschließend mit geringem Aufwand und möglichst fehlerfrei zwischen Rechnern übertragen werden kann.