Rundungsproblem VB6
- VB6
Es gibt 5 Antworten in diesem Thema. Der letzte Beitrag () ist von Marcus Gräfe.
-
@walgrun Gib mal aus:
(dbltemp - 1020).
Ich denke mal, dass da2019.99999999also-0.0000000000001oder so was rauskommt.
Dieses Runden wird bei der Konvertierung der Zahl in einen String gemacht.Falls Du diesen Code kopierst, achte auf die C&P-Bremse.
Jede einzelne Zeile Deines Programms, die Du nicht explizit getestet hast, ist falsch
Ein guter .NET-Snippetkonverter (der ist verfügbar).
Programmierfragen über PN / Konversation werden ignoriert! -
Verwende Decimal anstatt Double.
Bei Double sind Rundungsfehler vorprogrammiert.
Edit: Geht bei VB6 nur indirekt über CDec. Das macht eventuell keinen Sinn.
Dann musst du entweder vor der Anzeige runden oder, falls du sie weiterverarbeiten willst, die Daten mit einer geeigneten Format-Funktion anzeigen.--
If Not Program.isWorking Then Code.Debug Else Code.DoNotTouch
-- -
-
-
Evtl. ist diese verbesserte Runden-Funktion noch interessant: Kaufmännisches Runden unter VB 6.0
-
5 Benutzer haben hier geschrieben
- walgrun (2)
- RodFromGermany (1)
- petaod (1)
- Marcus Gräfe (1)
- Eierlein (1)
