Hallo,
ich arbeite an einer iOS-App (Swift) bei der Anwender verschiedene Werte eingeben muss die validiert werden und einen Wert für gültig oder ungültig erklären. Jetzt stoße ich auf das Problem mit Fließkommazahlen, dass ein angegebener Wert von 0.3 als 0.2999999999 behandelt wird und somit kleiner statt gleich dem Grenzwert von 0.3 ist und somit irrtümlicherweise ungültig ist. Nachdem ich etwas recherchiert habe und von Double auf NSDecimalNumber und Decimal umgestiegen bin tauchen trotzdem ähnliche Probleme auf. Wie gehe ich richtig damit um? Falls relevant: Ich brauche keine 10 Stellen Genauigkeit nach dem Komme. 5 Nachkommastellen würden reichen.
Gruß
ich arbeite an einer iOS-App (Swift) bei der Anwender verschiedene Werte eingeben muss die validiert werden und einen Wert für gültig oder ungültig erklären. Jetzt stoße ich auf das Problem mit Fließkommazahlen, dass ein angegebener Wert von 0.3 als 0.2999999999 behandelt wird und somit kleiner statt gleich dem Grenzwert von 0.3 ist und somit irrtümlicherweise ungültig ist. Nachdem ich etwas recherchiert habe und von Double auf NSDecimalNumber und Decimal umgestiegen bin tauchen trotzdem ähnliche Probleme auf. Wie gehe ich richtig damit um? Falls relevant: Ich brauche keine 10 Stellen Genauigkeit nach dem Komme. 5 Nachkommastellen würden reichen.
Gruß