ieee-754

9El calor

4Respuesta

¿qué idiomas exponen IEEE 754 trampas para el desarrollador?

Me gustaría jugar con esas trampas con fines educativos. Un problema común con el comportamiento predeterminado en el cálculo numérico es que "extrañamos" el Nan (o + -inf) que apareció en una operaci

10El calor

3Respuesta

¿qué idiomas tienen IEEE 754 correcto?

acabo de pasar mi semana de jugar con el tema, y se encontró ningún lenguaje que obtener el derecho IEEE 754 de especificaciones. Incluso GCC no respeta la parte C99 relevante (ignora el pragma FENV

38El calor

6Respuesta

erróneamente redondeadas en Javascript

Ver este código: <html> <head> <script src="http://www.json.org/json2.js" type="text/javascript"></script> <script type="text/javascript"> var jsonString = '{"id":714341252076979033,"type":

15El calor

7Respuesta

Asegurando que los dobles de C++ son 64 bits

En mi programa C++, necesito extraer un flotador de 64 bits de una secuencia de bytes externa. ¿Hay alguna forma de garantizar, en tiempo de compilación, que los dobles sean 64 bits? ¿Hay algún otro t

17El calor

5Respuesta

Representación de números enteros en dobles

¿Puede un doble (de un número dado de bytes, con un equilibrio de mantisa/exponente razonable) mantener con precisión el rango de un entero sin signo de la mitad de ese número de bytes? E.g. ¿Puede un

10El calor

2Respuesta

¿Cómo puedo convertir cuatro caracteres en un flotador IEEE-754 de 32 bits en Perl?

Tengo un proyecto en el que una función recibe cuatro caracteres de 8 bits y necesita convertir el flotador IEEE-754 resultante de 32 bits en un número Perl normal. Parece que debería haber una manera

19El calor

6Respuesta

próximo más alto/más bajo IEEE precisión doble número

Estoy haciendo cálculos científicos de alta precisión. Al buscar la mejor representación de varios efectos, sigo encontrando razones para querer obtener el siguiente número de precisión doble más alto