floating-point

14El calor

5Respuesta

¿Deberíamos comparar los números de coma flotante para la igualdad con un error * relativo *?

Hasta ahora he visto muchas publicaciones relacionadas con la igualdad de números en coma flotante. La respuesta estándar a una pregunta como "¿cómo deberíamos decidir si xey son iguales?" es abs(x -

31El calor

10Respuesta

número Truncar decimal no redondear

Duplicar posible: c# - How do I round a decimal value to 2 decimal places (for output on a page) quiero truncar los decimales, como a continuación es decir 2,22939393 -> 2.229 2,22977777 -> 2,229

11El calor

5Respuesta

Oracle Floats contra el número

Veo referencias conflictivas en Oracles documentation. ¿Hay alguna diferencia entre cómo se almacenan los decimales en los tipos FLOAT y NUMBER en la base de datos? Como recuerdo de C, et al, una flot

34El calor

9Respuesta

Java comparación doble epsilon

Escribí una clase que prueba la igualdad, menor que, y mayor que con dos dobles en Java. Mi caso general es comparar precios que pueden tener una precisión de medio centavo. 59.005 comparado con 59.39

23El calor

2Respuesta

extrayendo mantisa y exponente desde el doble en C#

¿Hay alguna manera directa de obtener la mantisa y el exponente de un doble en C# (o .NET en general)? Encontré this example usando Google, pero no estoy seguro de cuán robusto sería. ¿Podría la repre

5El calor

6Respuesta

¿Cómo puedo escribir una función de C++ que sea verdadera si un número real es exactamente representable con un doble?

¿Cómo puedo escribir una función C++ que sea verdadera si un número real es exactamente representable con un doble? bool isRepresentable(const char* realNumber) { bool answer = false; // wh

7El calor

7Respuesta

¿Cómo verificar si un doble tiene como máximo n lugares decimales?

Actualmente tengo este método: static boolean checkDecimalPlaces(double d, int decimalPlaces){ if (d==0) return true; double multiplier = Math.pow(10, decimalPlaces); double check = d

5El calor

3Respuesta

de coma flotante Limitaciones

Mi código: a = '2.3' quería mostrar a como un valor de punto flotante. Desde a es una cadena, he intentado: float(a) El resultado que obtuve fue: 2.2999999999999998 Quiero una solución para este

74El calor

9Respuesta

¿Cómo puedo convertir una cadena en un número en Perl?

¿Cómo convertiría una cadena que contiene un número en su valor numérico en Perl?

11El calor

2Respuesta

¿Cuáles son las convenciones de codificación para usar punto flotante en los controladores de dispositivos Linux?

Esto se relaciona con this question. No soy un experto en controladores de dispositivos Linux o módulos kernel, pero he estado leyendo "Controladores de dispositivos Linux" [O'Reilly] por Rubini & Cor