Gleitkommazahlen

[Michael]

Hallo,

das Ergebnis einer Berechnung ergibt ein sehr kleine Gleitkommazahl. (z.B. 5e-007) Dieses Ergebnis wird in eine Variable geschrieben. Bis hierhin funktioniert auch alles. Wird nun diese Variable in ein Feld geschrieben, steht in diesem Feld die “0”. Muss die Gleitkommazahl erst konvertiert werden, oder wie ist es möglich diese Zahl anzuzeigen?

Gruß Michael

[Klaus Major]

Welche Berechnung ergibt denn dieses Ergebnis?

[Michael]

Hallo Klaus,

in Anwendung wir das Volumen in verschiedene Einheiten umgerechnet.
z.B.
put 0.5 / 1000000 into Ergebnis //Ergebnis 5e-007
put Ergebnis into fld”fldV” //im Feld steht das Ergebnis 0

Gruß
Michael

[Klaus Major]

Aha, danke, ich war immer sehr schlecht in Mathe! 🙂

Ich fürchte, hier stösst LC an seine Grenzen. Ab einer gewissen “Präzision” vor und nach dem Komma ist Schluss bei LC. Leider bin ich mir nicht sicher, was genau die Grenzen sind, aber sie sind vorhanden, wie Du bemerkt hast.

Es gab im englischen Forum mal einen Thread über “Routines for very large numbers”, vielleicht ist das ja hilfreich für Dich?
http://forums.livecode.com/viewtopic.php?f=7&t=25132&hilit=big+numbers

[Michael]

Danke Klaus!!

Die Lösung ist:

set the numberformat to “.##########”

[Klaus Major]

Ah, super, gut, daß du die Lösung gefunden hast.
Da wäre ich jetzt nicht unbedingt drauf gekommen… :-/

[Autor]

Beiträge