Dein Single Wert 5.12 muss intern binär abgespeichert werden.
Bei mir kommt da 5.119999883 raus, was ich bei der gegebenen Auflösung von 24 Bit hinter dem Komma für korrekt halte.
Deine Zahl scheint mir etwas stark abzuweichen.
Dein Single Wert 5.12 muss intern binär abgespeichert werden.
Bei mir kommt da 5.119999883 raus, was ich bei der gegebenen Auflösung von 24 Bit hinter dem Komma für korrekt halte.
Deine Zahl scheint mir etwas stark abzuweichen.
Lesezeichen