Új hozzászólás Aktív témák

• Sk8erPeter nagyúr

  #3734

  #3733 vz12

  2013-09-13 11:21:39

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  Sk8erPeter

  nagyúr

  #3733 vz12

  #3733 vz12

  A JS számolások aritmetikai pontosságának növelésére van-e valakinek valamilyen ötlete?
  Mert a beépített számomra egy kicsit igénytelen, kicsit durvának tartom hogy már egy egyszerű szorzásra is pontatlan ( illetve vagy pontatlan, vagy nem ! ), megengedő módon a gyökvonást még valamennyire megérteném ...
  pl.1: 17 * 1.1 = 18.700000000000003
  pl.2: 7410 * 0.43 = 3186.2999999999997
  pl.3: Math.pow(Math.sqrt(1.5),2) = 1.4999999999999998
  pl.4: Math.pow(1.6,2) = 2.5600000000000005

  Én elkövettem magamnak egy ki/bekapcsolható "automatikus decimális kerekítés"-t, ami nem fix, hanem rugalmas hosszúságban próbál decimálisan kerekíteni. Ez egy bizonyos határig remekül működik, pl. a fenti esetekben is, de nagyobb számok esetén (mondjuk 10 jegyű számok felett), vagy túl sok tizedesjegy esetén már hatástalan. A kikapcsolhatóságot is bele kellett tenni, hogy amikor nem kell, akkor azért ne kerekítsen, mert úgy jobban meghamisítja az eredményt, mint a "gyári" pontatlanság.
  De ez igazából barkácsolás, pótmegoldás. A korrekt az lenne, ha a JS egy "rendesebb" aritmetikát használna, ennek ellenére ha valakinek lenne valami jó ötlete, azt megköszönném.

  Itt van pár topic, ahol ezt jó alaposan kitárgyalják:

  http://stackoverflow.com/questions/588004/is-javascripts-floating-point-math-broken
  http://stackoverflow.com/questions/3556789/javascript-math-error-inexact-floats
  http://stackoverflow.com/questions/5037839/avoiding-problems-with-javascripts-weird-decimal-calculations

Új hozzászólás Aktív témák