precision

5El calor

5Respuesta

Cómo utilizar "% f" para llenar un doble valor en una cadena con la precisión correcta

Estoy intentando rellenar una cadena con un valor doble, con un sprintf así: sprintf(S, "%f", val); Pero la precisión es siendo cortado a seis lugares decimales. Necesito alrededor de 10 decimales p

24El calor

11Respuesta

Cómo analizar manualmente un número de coma flotante de una cadena

Por supuesto, la mayoría de los idiomas tienen funciones de biblioteca para esto, pero supongamos que quiero hacerlo yo mismo. Supongamos que el flotador se da como en un programa Java C o (a excepció

18El calor

5Respuesta

¿Cuál es la biblioteca de números grandes (de precisión arbitraria) estándar (o mejor respaldada) para Lua?

Estoy trabajando con grandes números que no puedo completar. Utilizando la biblioteca matemática estándar de Lua, parece que no hay una manera conveniente de preservar la precisión más allá de un lími

53El calor

10Respuesta

¿Los dobles son más rápidos que los flotadores en C#?

Estoy escribiendo una aplicación que lee grandes matrices de flotadores y realiza algunas operaciones simples con ellos. Estoy usando carrozas, porque pensé que sería más rápido que el doble, pero des

43El calor

14Respuesta

¿Por qué veo una variable doble inicializada a algún valor como 21.4 como 21.399999618530273?

double r = 11.631; double theta = 21.4; En el depurador, se muestran como 11.631000000000000 y 21.399999618530273. ¿Cómo puedo evitar esto?

5El calor

5Respuesta

Cómo escribir un prototipo para Number.toFixed en JavaScript?

necesito para redondear números decimales con seis cifras utilizando JavaScript, pero tengo que considerar navegadores antiguos así que can't rely on Number.toFixed La gran captura con toExponential,