Gleitkommazahlen

Startseite Foren Deutsches LiveCode-Forum Gleitkommazahlen

Ansicht von 5 Antwort-Themen
  • Autor
    Beiträge
    • #5396
      Michael
      Teilnehmer

      Hallo,

      das Ergebnis einer Berechnung ergibt ein sehr kleine Gleitkommazahl. (z.B. 5e-007) Dieses Ergebnis wird in eine Variable geschrieben. Bis hierhin funktioniert auch alles. Wird nun diese Variable in ein Feld geschrieben, steht in diesem Feld die „0“. Muss die Gleitkommazahl erst konvertiert werden, oder wie ist es möglich diese Zahl anzuzeigen?

      Gruß Michael

    • #5399
      Klaus Major
      Verwalter

      Welche Berechnung ergibt denn dieses Ergebnis?

    • #5401
      Michael
      Teilnehmer

      Hallo Klaus,

      in Anwendung wir das Volumen in verschiedene Einheiten umgerechnet.
      z.B.
      put 0.5 / 1000000 into Ergebnis //Ergebnis 5e-007
      put Ergebnis into fld“fldV“ //im Feld steht das Ergebnis 0

      Gruß
      Michael

    • #5403
      Klaus Major
      Verwalter

      Aha, danke, ich war immer sehr schlecht in Mathe! 🙂

      Ich fürchte, hier stösst LC an seine Grenzen. Ab einer gewissen „Präzision“ vor und nach dem Komma ist Schluss bei LC. Leider bin ich mir nicht sicher, was genau die Grenzen sind, aber sie sind vorhanden, wie Du bemerkt hast.

      Es gab im englischen Forum mal einen Thread über „Routines for very large numbers“, vielleicht ist das ja hilfreich für Dich?
      http://forums.livecode.com/viewtopic.php?f=7&t=25132&hilit=big+numbers

    • #5407
      Michael
      Teilnehmer

      Danke Klaus!!

      Die Lösung ist:

      set the numberformat to „.##########“

    • #5409
      Klaus Major
      Verwalter

      Ah, super, gut, daß du die Lösung gefunden hast.
      Da wäre ich jetzt nicht unbedingt drauf gekommen… :-/

Ansicht von 5 Antwort-Themen
  • Du musst angemeldet sein, um auf dieses Thema antworten zu können.