floating-point

32El calor

10Respuesta

¿Cómo se almacena el punto flotante? ¿Cuándo importa?

En seguimiento hasta this question, parece que algunos números no se pueden representar por coma flotante en absoluto, y en su lugar son aproximados. ¿Cómo se almacenan los números de coma flotante? ¿

floating-point rounding-error 2008-09-11

---

26El calor

2Respuesta

Convertir de cadena de notación científica a float en C#

¿Cuál es la forma correcta de convertir de una cadena de notación científica como "1.234567E-06" a una variable de coma flotante con C#?

c# floating-point scientific-notation 2008-09-15

---

5El calor

5Respuesta

Cómo utilizar "% f" para llenar un doble valor en una cadena con la precisión correcta

Estoy intentando rellenar una cadena con un valor doble, con un sprintf así: sprintf(S, "%f", val); Pero la precisión es siendo cortado a seis lugares decimales. Necesito alrededor de 10 decimales p

c floating-point precision printf 2008-09-16

---

20El calor

10Respuesta

¿Cuál es la forma más rápida de convertir float a int en x86?

¿Cuál es la forma más rápida de convertir un número de punto flotante en int en una CPU x86? Preferiblemente en C o montaje (que puede ser en forrado en C) para cualquier combinación de los siguientes

c optimization x86 floating-point assembly 2008-09-17

---

24El calor

11Respuesta

Cómo analizar manualmente un número de coma flotante de una cadena

Por supuesto, la mayoría de los idiomas tienen funciones de biblioteca para esto, pero supongamos que quiero hacerlo yo mismo. Supongamos que el flotador se da como en un programa Java C o (a excepció

parsing floating-point precision 2008-09-17

---

7El calor

5Respuesta

Conversión de excepciones de punto flotante en excepciones de C++

¿Es posible convertir excepciones de coma flotante (señales) en excepciones de C++ en x86 Linux? Esto es para eliminar errores, por lo que la impermeabilidad y la imperfección son correctas (por ejemp

c++ exception floating-point signals 2008-09-17

---

18El calor

6Respuesta

¿Dónde puedo encontrar la implementación atof más rápida del mundo?

Estoy buscando una implementación extremadamente rápida de atof() en IA32 optimizada para US-en locale, ASCII y notación no científica. El CRT multiproceso de windows se cae aquí miserablemente, ya qu

c++ c performance assembly floating-point 2008-09-19

---

5El calor

3Respuesta

SQL Server 2005 pérdida de precisión numérica

La depuración de algún código SQL relacionado con las finanzas encontró un problema extraño con la precisión matemática numérica (24,8). Ejecutar la siguiente consulta en su MSSQL se obtendría un resu

sql-server floating-point type-conversion casting floating-accuracy 2008-09-24

---

6El calor

9Respuesta

Los valores de Float se comportan de forma diferente en las compilaciones de versión y depuración

Mi aplicación genera diferentes valores de coma flotante cuando los compilo en modo de lanzamiento y en modo de depuración. La única razón por la que descubrí es que guardo un registro de rastreo bina

c++ c debugging compiler-construction floating-point 2008-09-26

---

5El calor

6Respuesta

Cifras significativas en el módulo decimal

Así que he decidido tratar de resolver mi tarea de física escribiendo algunos scripts de Python para resolver problemas. Un problema con el que me estoy metiendo es que las cifras significativas no si

python floating-point decimal physics significance 2008-09-27

---