floating-point

6El calor

2Respuesta

¿Cuál es la diferencia entre flotadores endian grandes y pequeños?

Para valores enteros, es bastante simple la diferencia en la representación de little endian y big endian. Pero no está claro para mí cómo un pequeño flotador endian se diferencia de un gran flotador

c++ c floating-point endianness 2012-01-29

---

5El calor

3Respuesta

Python, quiero imprimir float en el formato exacto + -00.00

Necesito formatear un float al formato + -00.00, intenté el formato de cadena básico pero no puedo obtener el signo + o - o dos primeros 0 si el el valor es fraccionario, ¿algún puntero?

python printing floating-point 2012-01-31

---

12El calor

5Respuesta

Cómo verificar las dependencias de los flotadores

Quiero determinar (en C++) si un número flotante es el inverso multiplicativo de otro número flotante. El problema es que tengo que usar una tercera variable para hacerlo. Por ejemplo, este código: fl

c++ algorithm floating-point floating-accuracy inverse 2012-02-03

---

5El calor

5Respuesta

Problema con la multiplicación de flotación y evaluación

Este problema se expresa mejor en código: $var1 = 286.46; // user input data $var2 = 3646; // user input data $var3 = 25000; // minumum amount allowed $var4 = ($var1 * 100) - $var2; // = 250000 if

php casting floating-point 2012-02-06

---

9El calor

2Respuesta

¿Es esta una comparación flotante válida que representa un número determinado de lugares decimales?

Estoy escribiendo un método de extensión para comparar dos flotantes usando un número determinado de puntos decimales (cifras significativas) para determinar si son iguales en lugar de una diferencia

c# floating-point floating-point-precision 2012-02-07

---

9El calor

1Respuesta

¿Por qué el cálculo flotante y la conversión muestran resultados diferentes en la configuración de depuración y liberación?

Esto es realmente un error extraño para mí y me tomó mucho tiempo descubrir qué está pasando. Para simplificar las cosas y reproducirse, basta con crear una aplicación de consola Win32 vacía usando VS

c++ c visual-c++ floating-point 2012-02-10

---

5El calor

1Respuesta

¿Puedo usar el redondeo para garantizar el determinismo de las operaciones de punto flotante atómico?

Estoy desarrollando una aplicación C que necesita determinismo de coma flotante. También me gustaría que las operaciones de punto flotante sean bastante rápidas. Esto incluye funciones trascendentales

c floating-point rounding deterministic numerical-computing 2012-02-10

---

5El calor

2Respuesta

GCC optimización en tiempo flotante en tiempo de compilación

Estoy desarrollando para la plataforma AVR y tengo una pregunta. No quiero que la biblioteca de punto flotante se vincule con mi código, pero me gusta el concepto de tener valores analógicos del rango

c optimization gcc floating-point avr 2012-02-12

---

7El calor

1Respuesta

Erlang y Big Numbers

Estoy tratando de almacenar pi a alrededor de 200 lugares decimales, erlang lo asocia a alrededor de 15 dígitos, ¿cómo puedo conservar el original y hacer que se use en otros cálculos? 1> P = 3.141592

floating-point erlang 2012-02-12

---

6El calor

3Respuesta

Coseno en coma flotante

Estoy tratando de implementar las funciones de coseno y seno en coma flotante (pero no tengo hardware de coma flotante). Como mi procesador no tiene hardware de punto flotante ni instrucciones, ya he

binary floating-point trigonometry cosine sine 2012-02-13

---