Advertisement

Numerik

  • Robert Klima
  • Siegfried Selberherr
Chapter

Zusammenfassung

Punktzahlen können mit den verfügbaren Datentypen nur mit einer endlichen Anzahl von Nachkommas teilen dargestellt werden. Die Probleme, die aus der dadurch gegebenen Ungenauigkeit von Daten entstehen, sind vielfältig und oft schwer zu beherrschen (siehe [16,27,28]). Das mangelnde Verständnis der Computer-Numerik führt in Berechnungen oft zu beachtlichen Fehlern.

Preview

Unable to display preview. Download preview PDF.

Unable to display preview. Download preview PDF.

Copyright information

© Springer-Verlag Wien 2003

Authors and Affiliations

  • Robert Klima
    • 1
  • Siegfried Selberherr
    • 1
  1. 1.Institut für MikroelektronikTechnische UniversitätWienÖsterreich

Personalised recommendations