Word in Double Konvertieren - nicht möglich?

[for_ro]

Dein Single Wert 5.12 muss intern binär abgespeichert werden.
Bei mir kommt da 5.119999883 raus, was ich bei der gegebenen Auflösung von 24 Bit hinter dem Komma für korrekt halte.
Deine Zahl scheint mir etwas stark abzuweichen.

[for_ro]

Du kannst auch so etwas vorgeben, wenn du immer nur 2 Stellen hinter dem Komma ausgeben willst:
Config Single = Scientific , Digits = 2

[Richard]

Du kannst auch so etwas vorgeben, wenn du immer nur 2 Stellen hinter dem Komma ausgeben willst:
Config Single = Scientific , Digits = 2

DAS habe ich jetzt auch nicht gewusst, ich hoffe ich kann es mir merken bis ich es einmal brauche.

Guß Richard

[masasibe]

Hi!

Deine Zahl scheint mir etwas stark abzuweichen.

Ja du hast recht, deine Zahl stimmt. Übrigens auch vielen Dank für den Tipp mit dem Einschränken. Ich werde es bei nächster Gelegenheit ausprobieren!