Hallo zusammen,
Nur kurz für die (Foren-) Suche, falls einer ähnliche Effekte hat - ich habe nicht die Zeit, in's Detail zu gehen:
Bei einem Test der "Release Candidate"-Versionen von iOS / iPadOS 18 sind mir Merkwürdigkeiten bei der Verwendung von NSDecimal-Funktionen aufgefallen: Ganz durchdrungen habe ich es nicht, aber nach der Multiplikation mit Zehnerpotenzen ergaben Additionen einen Verlust der Genauigkeit, der nicht auftreten dürfte, und wurden nicht durchgeführt. Ein Nachstellen mit konstanten Werten gelang mir nicht, ich vermute aber (interne) Dezimalen, die allerdings bei Ausgabe über eine NSDecimalNumber nicht erkennbar waren.
Ich habe die - zum Glück zentrale Funktion - 1:1 auf NSDecimalNumber und deren Methoden umgestellt und der Effekt ist verschwunden. Seit drei Jahren / iOS 14 waren die Festkommaoperationen übrigens kein Problem...
Mattes
Nur kurz für die (Foren-) Suche, falls einer ähnliche Effekte hat - ich habe nicht die Zeit, in's Detail zu gehen:
Bei einem Test der "Release Candidate"-Versionen von iOS / iPadOS 18 sind mir Merkwürdigkeiten bei der Verwendung von NSDecimal-Funktionen aufgefallen: Ganz durchdrungen habe ich es nicht, aber nach der Multiplikation mit Zehnerpotenzen ergaben Additionen einen Verlust der Genauigkeit, der nicht auftreten dürfte, und wurden nicht durchgeführt. Ein Nachstellen mit konstanten Werten gelang mir nicht, ich vermute aber (interne) Dezimalen, die allerdings bei Ausgabe über eine NSDecimalNumber nicht erkennbar waren.
Ich habe die - zum Glück zentrale Funktion - 1:1 auf NSDecimalNumber und deren Methoden umgestellt und der Effekt ist verschwunden. Seit drei Jahren / iOS 14 waren die Festkommaoperationen übrigens kein Problem...
Mattes
Diese Seite bleibt aus technischen Gründen unbedruckt.
Dieser Beitrag wurde bereits 1 mal editiert, zuletzt von MyMattes ()