Hi,

ich stolpere gerade über ein Bascom-Rechen-Problem:

Es soll mit folgendem Programm der ADC-Wert in die akkuspannung zurückgerechnet werden, gerundet auf eine Nachkommastelle.

Warum ergibt die Berechnung 162,0 / 10 = 16,1999999 ?
Wie kann man das Problem lösen?

Dummy ist ein Word, Akku vom Typ Single:
Code:
Do
Dummy = Getadc(0)
Akku = Dummy
Print "Anfangswert : " ; Akku
Akku = Akku * 0.195
Print Dummy ; " * 0,195 = " ; Akku
Akku = Round(akku)
Print "gerundet: " ; Akku
Akku = Akku / 10
Print "geteilt durch 10: " ; Akku
Loop
Ausgabe dazu:
Code:
Anfangswert : 832.0
832 * 0,195 = 162.239990233
gerundet: 162.0
geteilt durch 10: 16.199998853