FloatToStr

  • 1
  • 2
  • Seite 2 von 2
Harry
Moderator
Avatar
Geschlecht:
Herkunft: zwischen Augsburg und Ulm
Alter: 60
Beiträge: 2155
Dabei seit: 03 / 2003
Betreff:

Re: FloatToStr

 · 
Gepostet: 21.07.2018 - 09:30 Uhr  ·  #9
Hallo Rolf,

ich vermute Rage will keine Zahl mit Exponent. Je nach Formatierung der Ausgabe kann das recht lästig sein.

Harry
rage
Benutzer
Avatar
Geschlecht: keine Angabe
Alter: 65
Homepage: processanalytik.de
Beiträge: 237
Dabei seit: 02 / 2007
Betreff:

Re: FloatToStr

 · 
Gepostet: 21.07.2018 - 11:43 Uhr  ·  #10
Hallo

Harry hat völlig Recht. Die Berechnungen die wir anstellen sind das Ergebnis chemischer Prozesse und sollen für den menschlichen Anwender angezeigt werden, zum einen möchten wir logischerweise eine immer gleiche Ausrichtung der Ergebnisse also zum Beispiel xx.xxx Vol% CH4 und zum anderen sind Ausgaben wie -1.534456E38 für einen Menschen nicht gleich wirklich erfassbar und entspechen ja auch nicht mehr wirklich dem 6:3:' ' Format sind zudem deutlich länger im String. Das Problem ist halt, das wir seit einem halben Jahr an dem Gerät entwicklen, bis dato mit der Version 5.09.16 und in dieser sind diese Probleme nie aufgetreten, erst nach dem Einsatz der 5.09.41. Leider kann ich das nicht mehr im Projekt verifizieren, weil die alte Version ein Problem haben mit der Ausnutzung des Flash im XMEGA384.
Im Augenblick habe ich mir selbst was gebaut
Code

Function FloatToStrEx(f:Float;StrLaenge:Byte;Nachkomma:Byte;Fill:Char):string[15];
Begin
If (F<-0.0001) and (0.0001>F) then
  F:=0.0;
endif;
Return(Function FloatToStr(f:StrLaenge:Nachkomma:Fill):string[15]);
end;

@Harry IntToStr(Var:6:2:' ') macht dann ein 23.45? Das wäre dann sogar noch eleganter denke ich, ich werde das Montag mal ausprobieren.

cu rage
P.S. An der älteren Version liegt es nicht, das habe ich gerade hier zu Hause getestet. Vieleicht lag es daran, das wir bis vor kurzem nur mit Demowerten gerechnet hatten und die echten Werte halt deutlich kleiner sind.
  • 1
  • 2
  • Seite 2 von 2
Gewählte Zitate für Mehrfachzitierung:   0

Registrierte in diesem Topic

Aktuell kein registrierter in diesem Bereich

Die Statistik zeigt, wer in den letzten 5 Minuten online war. Erneuerung alle 90 Sekunden.
MySQL Queries: 15 · Cache Hits: 14   50   64 · Page-Gen-Time: 0.029464s · Speichernutzung: 2 MB · GZIP: ein · Viewport: SMXL-HiDPI