Mo Logo [Home] [Lexikon] [Aufgaben] [Tests] [Kurse] [Begleitmaterial] [Hinweise] [Mitwirkende] [Publikationen] Englische Flagge
Mathematik-Online-Lexikon:

Runden

A B C D E F G H I J K L M N O P Q R S T U V W X Y Z Übersicht

Durch Runden wird eine reelle Zahl $ x$ mit der am nächsten liegenden Gleitpunktzahl R$ x$ approximiert. Falls $ \vert x\vert$ innerhalb des zulässigen Bereichs liegt, kann der Rundungsfehler folgendermaßen dargestellt werden:

   R$\displaystyle x - x = \delta x,\quad \vert\delta\vert \le$   eps$\displaystyle = \beta^{1-p}/2 \,, $

wobei $ \beta$ die Basis und $ p$ die Anzahl der Ziffern ist. Die Konstante eps ist die Maschinengenauigkeit und entspricht

$\displaystyle 2^{1-53}/2=2^{-53} $

bei doppelter Genauigkeit.

Erläuterung:

[Beispiele] [Verweise]
  automatisch erstellt am 19.  8. 2013