Geht das auch besser? Nachkommastellen im Double vorhanden?

oobdoo · 28. Juni 2024, 15:47

Kann man folgenden Code noch besser hinbekommen, also ohne/weniger Casting? Ich bin mir auch nicht ganz sicher ob der Vergleich in Zeile 7 wegen der Nachkommenstellen immer eindeutig funktionieren wird.

VB.NET-Quellcode

Dim d1 As Double = 97.181818181818187
Dim d2 As Double
Dim e As Boolean
d2 = CDbl(CInt(d1))
If d1 > d2 Then
e = True
Else
e = False
End If

RodFromGermany · 28. Juni 2024, 16:46

@oobdoo Die Frage ist, wie negative Zahlen behandelt werden sollen.
Ansonsten

VB.NET-Quellcode

e = d1 > CLng(d1)

Haudruferzappeltnoch · 28. Juni 2024, 18:48

@oobdoo Was willst du überhaupt genau vergleichen?
Dein Code unterscheidet momentan, ob X aufgerundet oder abgerundet wird, wenn X auf eine Ganzzahl gerundet wird: False -> aufgerundet, True -> abgerundet
Also in Math ausgedrückt: e = Math.Round(d1,0) = Math.Floor(d1)
Klingt komisch, weil mir nichts einfällt, wo man das brauchen kann.

Deinem Threadtitel nach willst du wissen, ob deine Zahl generell Nachkommastellen hat:
Das geht so: e = Math.Floor(d1) < d1

oobdoo · 28. Juni 2024, 19:28

Supi, Danke. Funktioniert und negative Werte kommen nicht vor.

Geht das auch besser? Nachkommastellen im Double vorhanden?

Geht das auch besser? Nachkommastellen im Double vorhanden?

VB.NET-Quellcode

VB.NET-Quellcode

Ähnliche Themen

3 Benutzer haben hier geschrieben