01.05.2005, 00:00 Uhr
Rundungsfehler beim Umwandeln von Fließkommawerten in Ganzzahlwerte
Ein älterer Mathematiklehrer wird gefragt, wie viel 2 plus 2 ergibt. Er holt seine Logarithmentafeln heraus, murmelt vor sich hin und antwortet nach einiger Zeit: 3,999857. Jeder Pentium-Prozessor würde sich dieser Antwort sofort anschließen. So richtig dumm wird es, wenn diese Zahl anschließend falsch auf 3 statt auf 4 gerundet wird. Gibt’s nicht? Doch, gibt’s. dotnetpro warnt vor Rundungsfehlern. 2 + 2 = 3
Autor: Claudio Ganahl (1229)
Jetzt 1 Monat kostenlos testen!
Sie wollen zukünftig auch von den Vorteilen eines plus-Abos profitieren? Werden Sie jetzt dotnetpro-plus-Kunde.
- + Digitales Kundenkonto,
- + Zugriff auf das digitale Heft,
- + Zugang zum digitalen Heftarchiv,
- + Auf Wunsch: Weekly Newsletter,
- + Sämtliche Codebeispiele im digitalen Heftarchiv verfügbar