double-precision

6El calor

3Respuesta

Precisión de la multiplicación de doble precisión en java?

¿Cuál es la precisión garantizada del operador de multiplicación para valores dobles en java? Por ejemplo, 2.2 * 100 es 220.00000000000003, pero 220 es un número doble. 220.00000000000003 es la siguie

java floating-point multiplication double-precision 2011-06-23

---

5El calor

2Respuesta

Programa de precisión doble Fortran con una simple rutina MKL BLAS

Al tratar de mezclar precisión en un programa simple -utilizando tanto real como doble- y usar la rutina ddot de BLAS, estoy obteniendo resultados incorrectos para la pieza de doble precisión . Aquí e

fortran blas double-precision intel-mkl 2011-05-08

---

5El calor

3Respuesta

host a red doble?

Me gustaría enviar algunos números de coma flotante de doble precisión a través de la red. (estándar C, conectores estándar) No hay htond o ntohd para convertir los datos hacia y desde el orden de byt

c double sockets double-precision htonl 2011-05-21

---

17El calor

4Respuesta

Simular rasgar un doble en C#

Me estoy ejecutando en una máquina de 32 bits y puedo confirmar que los valores largos pueden rasgarse usando el siguiente fragmento de código que se ejecuta muy rápido. static void TestTearingLong()

c# .net multithreading atomicity double-precision 2012-01-25

---

7El calor

3Respuesta

Ayuda en la adición de doble precisión

Estaba probando algunos de mis códigos, en javascript agregué .1 + .2 y me da .30000000000000004 en lugar de .3. No entiendo esto. Pero cuando agregué .1 + .3 me da .4. Lo busqué en Google y encuentro

javascript addition double-precision 2011-05-23

---

5El calor

6Respuesta

C# Alta precisión doble

Estoy escribiendo una función que calcula el valor de PI y lo devuelve como un doble. Hasta aquí todo bien. Pero una vez que la función llega a 14 dígitos después del lugar decimal, no puede contener

c# double double-precision 2010-11-05

---

20El calor

8Respuesta

¿Cómo comparar de manera correcta y estándar las carrozas?

Cada vez que se inicia un nuevo proyecto y cuando tengo que comparar algunas flotador o variables de dobles que escribir el código como éste: if (fabs(prev.min[i] - cur->min[i]) < 0.000001 && fab

c++ floating-point floating-accuracy double-precision 2010-12-28

---

13El calor

5Respuesta

Problemas de precisión Java BigDecimal

Sé que el siguiente comportamiento es un problema antiguo, pero aún no lo entiendo. System.out.println(0.1 + 0.1 + 0.1); O a pesar de que yo uso BigDecimal System.out.println(new BigDecimal(0.1).do

java bigdecimal double-precision 2012-03-20

---

7El calor

6Respuesta

¿Cómo puedo "recortar" un doble de C# al valor que se almacenará como en una base de datos sqlite?

Me di cuenta de que cuando almacenaba un valor doble como, por ejemplo, x = 0.56657011973046234 en una base de datos sqlite, y luego recuperarlo más tarde, obtengo y = 0.56657011973046201. De acuerdo

c# sqlite floating-accuracy double-precision 2010-11-17

---

10El calor

3Respuesta

¿Por qué el programa C++ compilado para la plataforma x64 es más lento que el compilado para x86?

He escrito el programa y lo compilé para la plataforma x64 y x86 en Visual Studio 2010 en Intel Core i5-2500. La versión x64 toma alrededor de 19 segundos para la ejecución y x86 toma alrededor de 17

c++ performance optimization 64bit double-precision 2012-02-14

---