noch ne seltsame Rechenfunktion - ich krieg die Krise!

Hallo Leute,

beim ausführen verschiedener Rechenoperationen in Bascom bin ich wieder auf etwas seltsames gestoßen
Diemal habe ich den Controller aber vorher über $regfile definiert:

Folgender Code

Code:

---

$sim
$hwstack = 64
$swstack = 64
$framesize = 64

$regfile = "m8def.dat"
$crystal = 3686411

Dim A As Single
Dim B As Single

A = 35.5634
B = A * 0.6

---

Warum kommt hier nicht, siw es soll 21.33804 heraus??
Das kann doch nicht sein!!!

Bitte helft mir auf die Sprünge!
MfG, ANdreas

Also bei mir kommt da
21.338039396, was um 0,000000604 neben dem richtigen Ergebnis liegt.
Halte ich für ok.

Gruß

Rolf

Hi,

evtl. solltest Du mal in der Bascom-Hilfe nach den Zahlenformaten sehen, und deren Genauigkeit, dann wirds villeicht etwas klarer.
DH. wenn Du statt Single Double verwendest könnte es etwas besser werden.

http://avrhelp.mcselec.com/language_fundamentals.htm -> Elementary Data Types

Nehme mal den Calc von Windoofs. Da kommt genau das selbe raus.

Zitat:

---

Zitat von Rofo88

Nehme mal den Calc von Windoofs. Da kommt genau das selbe raus.

---

Also ich glaube, das ist ja genau das Problem, das er bei seinem Programm NICHT diesen Wert erhält...

@dl1akp:
Aber was kommt denn bei dir raus? Wäre vielleicht ja ganz hilfeich!

Wäre interessamt zu wissen, was denn bei Andreas überhaupt rauskommt...