2011-05-23 19 views
7

Estaba probando algunos de mis códigos, en javascript agregué .1 + .2 y me da .30000000000000004 en lugar de .3. No entiendo esto. Pero cuando agregué .1 + .3 me da .4. Lo busqué en Google y encuentro algo sobre la adición de Double Precision. Pero no sé lo que es.Ayuda en la adición de doble precisión

Respuesta

14

Aquí está el enlace obligatorio: What Every Computer Scientist Should Know About Floating-Point Arithmetic

Básicamente, hay muchas bases 10 números que no pueden representarse exactamente en el formato de coma flotante utilizado por la mayoría de los ordenadores, de manera que obtendrá cuestiones como las que ponen de relieve.

+0

+1 buen artículo :) – alex

+2

:) Creo que he leído el 20% cien veces ... algún día podré permanecer despierto. – sje397

+0

es un gran artículo, ¿puedes decirme la esencia si lo has leído? –

2

Si no puede permanecer despierto durante Lo que cada científico debería saber sobre la aritmética de coma flotante, intente en su lugar el específico de Javascript Rounding in JavaScript.

Cuestiones relacionadas