Estaba probando algunos de mis códigos, en javascript agregué .1 + .2 y me da .30000000000000004 en lugar de .3. No entiendo esto. Pero cuando agregué .1 + .3 me da .4. Lo busqué en Google y encuentro algo sobre la adición de Double Precision. Pero no sé lo que es.Ayuda en la adición de doble precisión
Respuesta
Aquí está el enlace obligatorio: What Every Computer Scientist Should Know About Floating-Point Arithmetic
Básicamente, hay muchas bases 10 números que no pueden representarse exactamente en el formato de coma flotante utilizado por la mayoría de los ordenadores, de manera que obtendrá cuestiones como las que ponen de relieve.
Los números de coma flotante tienen una cantidad finita de precisión, ya que el número se almacena en un número finito de bits.
El número que intenta almacenar no se puede almacenar con precisión, por lo que se utiliza una aproximación.
What Every Computer Scientist Should Know About Floating-Point Arithmetic.
Si no puede permanecer despierto durante Lo que cada científico debería saber sobre la aritmética de coma flotante, intente en su lugar el específico de Javascript Rounding in JavaScript.
- 1. Precisión de la multiplicación de doble precisión en java?
- 2. doble menos doble dando problemas de precisión
- 3. 'sprintf': doble precisión en C
- 4. doble substracción tema precisión
- 5. C# Alta precisión doble
- 6. Doble precisión extendida
- 7. C# Problema de precisión doble
- 8. formato de doble precisión en PostgreSQL
- 9. punto flotante de doble precisión en CUDA
- 10. problemas de doble precisión en .NET
- 11. iPhone/iPad doble precisión matemática
- 12. Impresión doble sin perder precisión
- 13. Compare doble en VBA problema precisión
- 14. SSE2: Doble función de registro de precisión
- 15. Ayuda - 100% de precisión con LibSVM?
- 16. Pérdida de precisión con doble C++
- 17. de Java de doble precisión con la constante multiplicación/división
- 18. perdiendo la conversión de precisión de BigDecimal java a doble
- 19. Precisión del doble después del punto decimal
- 20. ¿Todos los números de precisión simple son representables en el formato de precisión doble?
- 21. lectura formato de doble precisión FORTRAN en Python
- 22. QString :: toDouble() dándome el doble con la precisión incorrecta
- 23. ¿Tiene JavaScript precisión de número de punto flotante doble?
- 24. C# pérdida de precisión de doble a decimal
- 25. próximo más alto/más bajo IEEE precisión doble número
- 26. Cómo convertir a doble con 2 precisión - cadena tras punto?
- 27. ¿Cuál es la precisión interna de numpy.float128?
- 28. Cómo utilizar "% f" para llenar un doble valor en una cadena con la precisión correcta
- 29. Prevenir la votación doble
- 30. Trabajando con números de precisión doble en ensamblado en línea (GCC, IA-32)
+1 buen artículo :) – alex
:) Creo que he leído el 20% cien veces ... algún día podré permanecer despierto. – sje397
es un gran artículo, ¿puedes decirme la esencia si lo has leído? –