FloatToStr

  • 1
  • 2
  • Page 2 of 2
Harry
Moderator
Avatar
Gender:
Location: zwischen Augsburg und Ulm
Age: 59
Posts: 2134
Registered: 03 / 2003
Subject:

Re: FloatToStr

 · 
Posted: 21.07.2018 - 09:30  ·  #9
Hallo Rolf,

ich vermute Rage will keine Zahl mit Exponent. Je nach Formatierung der Ausgabe kann das recht lästig sein.

Harry
rage
Benutzer
Avatar
Gender: n/a
Age: 65
Homepage: processanalytik.de
Posts: 237
Registered: 02 / 2007
Subject:

Re: FloatToStr

 · 
Posted: 21.07.2018 - 11:43  ·  #10
Hallo

Harry hat völlig Recht. Die Berechnungen die wir anstellen sind das Ergebnis chemischer Prozesse und sollen für den menschlichen Anwender angezeigt werden, zum einen möchten wir logischerweise eine immer gleiche Ausrichtung der Ergebnisse also zum Beispiel xx.xxx Vol% CH4 und zum anderen sind Ausgaben wie -1.534456E38 für einen Menschen nicht gleich wirklich erfassbar und entspechen ja auch nicht mehr wirklich dem 6:3:' ' Format sind zudem deutlich länger im String. Das Problem ist halt, das wir seit einem halben Jahr an dem Gerät entwicklen, bis dato mit der Version 5.09.16 und in dieser sind diese Probleme nie aufgetreten, erst nach dem Einsatz der 5.09.41. Leider kann ich das nicht mehr im Projekt verifizieren, weil die alte Version ein Problem haben mit der Ausnutzung des Flash im XMEGA384.
Im Augenblick habe ich mir selbst was gebaut
Code

Function FloatToStrEx(f:Float;StrLaenge:Byte;Nachkomma:Byte;Fill:Char):string[15];
Begin
If (F<-0.0001) and (0.0001>F) then
  F:=0.0;
endif;
Return(Function FloatToStr(f:StrLaenge:Nachkomma:Fill):string[15]);
end;

@Harry IntToStr(Var:6:2:' ') macht dann ein 23.45? Das wäre dann sogar noch eleganter denke ich, ich werde das Montag mal ausprobieren.

cu rage
P.S. An der älteren Version liegt es nicht, das habe ich gerade hier zu Hause getestet. Vieleicht lag es daran, das wir bis vor kurzem nur mit Demowerten gerechnet hatten und die echten Werte halt deutlich kleiner sind.
  • 1
  • 2
  • Page 2 of 2
Selected quotes for multi-quoting:   0

Registered users in this topic

Currently no registered users in this section

The statistic shows who was online during the last 5 minutes. Updated every 90 seconds.
MySQL Queries: 15 · Cache Hits: 14   50   64 · Page-Gen-Time: 0.035317s · Memory Usage: 2 MB · GZIP: on · Viewport: SMXL-HiDPI