ieee-754

5El calor

3Respuesta

Precisión del doble después del punto decimal

En la pausa del almuerzo comenzamos a debatir acerca de la precisión del tipo de valor double. Mi colega piensa que siempre tiene 15 lugares después del punto decimal. En mi opinión no se puede decir,

c# double ieee-754 2012-08-23

---

5El calor

1Respuesta

¿Es peligrosa la conversión de flotador a BigDecimal y viceversa?

Estoy en el proceso de crear un programa que genere vectores de prueba para usar en un banco de pruebas VHDL. El banco de pruebas esencialmente prueba una pieza de hardware que actúa como un único sum

java floating-point bigdecimal ieee-754 2012-03-31

---

8El calor

1Respuesta

Cálculos en coma flotante IEEE-754, igualdad y estrechamiento

En el siguiente código, las funciones foo1, foo2 y foo3 son equivalentes. Sin embargo, cuando ejecutar foo3 no termina desde el ciclo, ¿hay alguna razón por la cual este sea el caso? template <typenam

c++ floating-point undefined-behavior ieee-754 2012-05-23

---

8El calor

2Respuesta

¿Implementaciones compatibles con IEEE754 (r) para Java?

¿Hay algunas implementaciones totalmente compatibles IEEE754r disponibles para Java que ofrecen apoyo a todas las características de Java eligió omitir (o lenguajes de nivel bastante alto en general,

java floating-point ieee-754 2012-07-13

---

9El calor

5Respuesta

¿Por qué la variable flotante ahorra valor al cortar los dígitos después del punto de una manera extraña?

que tienen esta simple línea de código: float val = 123456.123456; Al imprimir este val o buscar en su alcance, que almacena el valor 123456,13 Ok, está bien, no puede almacenar todos esos dígitos d

c++ floating-point ieee-754 floating-point-precision digits 2012-02-17

---

10El calor

3Respuesta

IEEE Std 754 Floating-Point: let t: = a - b, ¿el estándar garantiza que a == b + t?

Suponga que t, a, b son todos (IEEE Std 754) las variables dobles, y ambos valores de a, b NO son NaN (pero puede ser Inf). Después de t = a - b, ¿tengo necesariamente a == b + t?

c++ c floating-point ieee-754 2012-05-29

---

6El calor

4Respuesta

dobles - IEEE 754 alternativas

acuerdo con el siguiente sitio: http://en.cppreference.com/w/cpp/language/types "doble - doble precisión en coma flotante de tipo general, IEEE-754 de 64 bits de tipo de punto flotante.". Dice "normal

c++ ieee-754 2012-02-23

---

13El calor

5Respuesta

¿Cuántos números de coma flotante distintos en un rango específico?

¿Cuántos flotantes representables hay entre 0.0 y 0.5? ¿Y cuántas carrozas representables hay entre 0.5 y 1.0? Estoy más interesado en las matemáticas que hay detrás, y necesito la respuesta para floa

language-agnostic ieee-754 2012-01-16

---

13El calor

1Respuesta

¿Por qué es pow (-infinity, positive non-integer) + infinito?

C99 anexo F (Soporte de coma flotante IEEE) dice esto: pow(−∞, y) retornos + ∞ para y> 0 y no un número entero impar. Pero, por ejemplo, (-∞) 0,5 realidad tiene los valores imaginarios ± ∞i, no + ∞. E

c math floating-point standards ieee-754 2012-04-28

---

6El calor

2Respuesta

Cálculo del promedio armónico y Precisión del flotador

Implemento el Pythagorean means en PHP, los medios aritméticos y geométricos son sencillos, pero estoy teniendo un momento difícil para encontrar una implementación confiable de harmonic mean. Este es

php math floating-point floating-accuracy ieee-754 2012-05-04

---