floating-point

18El calor

2Respuesta

¿Por qué Math.round() devuelve 0 para argumentos NaN?

pensé que resulten de la operación matemática en un NaN me diera un NaN atrás, pero Math.round(Float.NaN) == 0 ¿Cuál es la razón de tal comportamiento de Math.round()? Curiosamente, C# comporta de man

java floating-point nan 2012-04-12

---

5El calor

1Respuesta

¿Cuáles son las optimizaciones facilitadas por -ffinite-math-only?

Toda la información que puedo encontrar en la documentación y la web para -ffinite-math-only es "Permitir optimizaciones para la aritmética de coma flotante que supone que los argumentos y resultados

optimization gcc compiler-construction floating-point 2012-04-13

---

13El calor

4Respuesta

Cómo encontrar el valor doble siguiente/anterior más próximo (numeric_limits :: épsilon para el número dado)

El título es bastante autoexplicativo, la entrada tiene doble valor y quiero agregar/sustraer la menor cantidad posible.

c++ floating-point double 2012-04-15

---

5El calor

5Respuesta

error de Python: No se pudo convertir la cadena a flote

Tengo algo de código Python que mueve los hilos de un archivo de texto: Código [2.467188005806714e-05, 0.18664554919828535, 0.5026880460053854, ....] Python: v = string[string.index('['):].split(','

python string floating-point text-files 2012-04-16

---

18El calor

2Respuesta

Punto flotante Java vs C: "x * x" difiere de "pow (x, 2)"?

¿Por qué es esto cierto? Parece que Java produce un resultado con una pequeña discrepancia al multiplicar dos flotantes en comparación con C e incluso el método Java Math.pow. Java: float a = 0.882769

java c floating-point floating-accuracy 2012-04-17

---

23El calor

2Respuesta

expresión regular para encontrar números decimales/float?

necesito una expresión regular para números decimales/float como 12 12.2 1236.32 123.333 y +12.00 o -12.00 o ... 123.123 ... para usar en javascript y jQuery. Gracias.

javascript regex floating-point decimal 2012-04-21

---

8El calor

3Respuesta

¿Es x == x alguna vez falso en Python?

me topé con esta línea de código en la fuente de SciPy, en el stats module: return 1.0*(x==x) Es éste un resultado distinto del 1.0? En otras palabras, ¿hay algún valor de x tal que x == x tenga Fal

python floating-point equality 2012-04-21

---

11El calor

3Respuesta

0 + 0 + 0 ... + 0! = 0

Tengo un programa que busca rutas en un gráfico y genera el peso acumulado. Todos los bordes en el gráfico tienen un peso individual de 0 a 100 en forma de un flotador con un máximo de 2 decimales. En

c++ floating-point 2012-04-24

---

9El calor

6Respuesta

Truncar un flotador y un doble en java

Quiero truncar un flotante y un valor doble en java. siguientes son mis requisitos: 1. si tengo 12.49688f, debe ser impresa como 12.49, sin redondeo 2. si se trata de 12.456 en habitaciones dobles, qu

java floating-point double truncate 2012-04-26

---

7El calor

5Respuesta

Representación del número binario

En primer lugar, no se trata de precisión ni nada por el estilo. Mi pregunta es, ¿cómo decide el compilador cómo representar un número? Tomemos C por ejemplo. Escribo double d = 4.5632; ¿Cómo elige

c binary floating-point computer-architecture 2012-04-28

---