Fehler gefunden?

Startseite Foren Deutsches LiveCode-Forum Fehler gefunden?

Schlagwörter: 

Ansicht von 1 Antwort-Thema
  • Autor
    Beiträge
    • #13553
      Torsten
      Teilnehmer

      Hi,

      ich vermute, einen Fehler in LC gefunden zu haben oder ich habe einen Denkfehler:

      put 1 into tStart
      put round(tStart,2) into tStartRounded
      put trunc(tStartRounded) into tStartTruncated
      put trunc(tStart) into tStartDirectTruncated
      answer "Value:" && tStart & cr & \
            "Rounded:" && tStartRounded & cr & \
            "Trunc of Rounded:" && tStartTruncated & cr & \
            "Trunc of Value:" && tStartDirectTruncated

      Eigentlich sollten alle Werte „1“ sein, aber der Trunc des gerundeten Wertes ist immer eine Zahl kleiner.

      Wer hat eine Erklärung dafür? Kann es sein, dass round() Blödsinn macht?

    • #13559
      Torsten
      Teilnehmer

      noch kürzer demonstriert:

      put round(1.2,2) into tNumber
      put trunc(tNumber)

      ergibt richtig = 1

      put round(1,2) into tNumber
      put trunc(tNumber)

      ergibt NICHT richtig = 0

      aber
      put round(1,2)

      ergibt richtig = 1

      Meine Vermutung: die 1 aus dem rounded ist nur fast eine 1…

Ansicht von 1 Antwort-Thema
  • Du musst angemeldet sein, um auf dieses Thema antworten zu können.