Fehler gefunden?

Startseite Foren Deutsches LiveCode-Forum Fehler gefunden?

Schlagwörter: 

Dieses Thema enthält 1 Antwort und 1 Teilnehmer. Es wurde zuletzt aktualisiert von  Torsten vor 2 Monate, 1 Woche.

  • Autor
    Beiträge
  • #13553

    Torsten
    Teilnehmer

    Hi,

    ich vermute, einen Fehler in LC gefunden zu haben oder ich habe einen Denkfehler:

    put 1 into tStart
    put round(tStart,2) into tStartRounded
    put trunc(tStartRounded) into tStartTruncated
    put trunc(tStart) into tStartDirectTruncated
    answer "Value:" && tStart & cr & \
          "Rounded:" && tStartRounded & cr & \
          "Trunc of Rounded:" && tStartTruncated & cr & \
          "Trunc of Value:" && tStartDirectTruncated

    Eigentlich sollten alle Werte "1" sein, aber der Trunc des gerundeten Wertes ist immer eine Zahl kleiner.

    Wer hat eine Erklärung dafür? Kann es sein, dass round() Blödsinn macht?

  • #13559

    Torsten
    Teilnehmer

    noch kürzer demonstriert:

    put round(1.2,2) into tNumber
    put trunc(tNumber)

    ergibt richtig = 1

    put round(1,2) into tNumber
    put trunc(tNumber)

    ergibt NICHT richtig = 0

    aber
    put round(1,2)

    ergibt richtig = 1

    Meine Vermutung: die 1 aus dem rounded ist nur fast eine 1...

Du musst angemeldet sein, um auf dieses Thema antworten zu können.