Hallo,

ich bilde einen Mittelwert aus 256 Messungen eines 12-bit-AD-Wandlers.
Hierzu summiere ich die 256 Messwerte auf und teile anschließend die Summe durch 256. Die Summe ist also immer im Bereich 0 bis 1048320 (=256*4095). Eigentlich müsste das in eine long-Variable passen. Die Berechnung ergibt aber unsinnige Werte. Deklariere ich die Summenvariable als single, funktioniert alles einwandfrei.

Hat jemand eine Idee, warum das so ist?

mfg

Stefan