Modellwahl: Information und Entropie

Chapter
Part of the Statistik und ihre Anwendungen book series (STATIST)

Zusammenfassung

Nicht direkt messbare Grössen, wie der Anteil von Objekten in einer Grundgesamtheit, die in einer gewissen Kategorie sind, lassen sich aus Daten und zusätzlichen Informationen berechnen. In Kap. 5 ist gezeigt, dass die Regel von Bayes die Vorinformation (den Prior) zur nicht direkt messbaren Grösse aktualisiert. Man erhält eine Genauigkeit und eine Plausibilität zur gesuchten Grösse. Für die Regel von Bayes braucht man ein Datenmodell, das besagt, wie Messwerte streuen. Damit glaubwürdig wird, was gerechnet wird, müssen das Datenmodell und der Prior erklärt werden. Die in diesem Kapitel vorgestellten Argumente, um Modelle zu wählen, sind Skalierungs- und Informationsregeln. Am Schluss des Kapitels wird eine wichtige Kennzahl eines Wahrscheinlichkeitsmodells definiert. Es ist der Erwartungswert oder der durchschnittlich erwartbare Wert. Hat man Information dazu, kann dies helfen, ein Wahrscheinlichkeitsmodell auszuwählen.

Literatur

  1. [1]
    S.F. Gull, J. Skilling, Maximum entropy image reconstruction. IEE Proc. 131F, 646–659 (1984)Google Scholar
  2. [2]
    E.T. Jaynes, Monkeys, Kangoroos, and N. Fourth Annual Workshop on Bayesian/Maximum Entropy Methods (University of Calgary, 1984). Auch in: Proceedings Volume: Maximum Entropy and Bayesian Methods in Applied Statistics, James H. Justice, Editor (Cambridge University Press, 1986)Google Scholar
  3. [3]
    H. Jeffreys, Theory of Probability (Clarendon Press, Oxford, 1939)Google Scholar
  4. [4]
    S. Kullback, R.A. Leibler, On information and sufficiency. Annals of Mathematical Statistics 22(19), 79–86 (1951)CrossRefMATHMathSciNetGoogle Scholar
  5. [5]
    R. Schor, Bohren von Lithium Niobat mit ps-Impulsen, Bachelorarbeit Maschinentechnik, Berner Fachhochschule (2007)Google Scholar
  6. [6]
    C.E. Shannon, A mathematical theory of communication. Bell Syst. Tech. J. 27, 379–423 (1948). und 623–656CrossRefMATHMathSciNetGoogle Scholar
  7. [7]
    D.S. Sivia, J. Skilling, Data Analysis, A Bayesian Tutorial, 2. Aufl. (Oxford University Press, ition, 2010)Google Scholar

Copyright information

© Springer-Verlag Berlin Heidelberg 2015

Authors and Affiliations

  1. 1.Departement für Technik und InformatikBerner FachhochschuleBurgdorfSchweiz

Personalised recommendations