Kontinuierliche Quellen und Kanäle

Auszug

Die Definitionen des Informationsgehalts und der Entropie fußen auf der Vorstellung, dass Information die Ungewissheit eines Zufallsexperimentes auflöst. In diesem Abschnitt wollen wir die Überlegungen auf kontinuierliche stochastische Variablen ausdehnen: also Quellen mit reellen Signalen zulassen, z. B. den Spannungsverlauf auf einer Telefonleitung. Dann liegt zu jedem beliebigen Beobachtungszeitpunkt ein Zufallsexperiment vor, dessen Ergebnis eine Ungewissheit, den Wert der Spannung, auflöst und somit einen quantifizierbaren Informationsgehalt aufweisen muss.