floating-point

6El calor

2Respuesta

¿La implementación de punto flotante de Java todavía tiene los problemas identificados por Kahan?

He leído algunos papeles de Kahan esta noche, y su famous rant en contra de Java. Antes de sumergirme en la especificación de JVM, ¿ha cambiado algo desde la queja inicial en este frente? Por ejemplo:

java floating-point 2009-03-30

---

9El calor

4Respuesta

¿qué idiomas exponen IEEE 754 trampas para el desarrollador?

Me gustaría jugar con esas trampas con fines educativos. Un problema común con el comportamiento predeterminado en el cálculo numérico es que "extrañamos" el Nan (o + -inf) que apareció en una operaci

floating-point ieee-754 floating-point-exceptions 2009-03-30

---

8El calor

3Respuesta

¿Por qué la aritmética de punto flotante en C# es imprecisa?

¿Por qué el siguiente programa imprime lo que imprime? class Program { static void Main(string[] args) { float f1 = 0.09f*100f; float f2 = 0.09f*99.999999f; Console.Write

c# floating-point 2009-04-15

---

17El calor

9Respuesta

¿Puedo comparar y agregar un número de coma flotante a un número entero en C?

¿Puedo comparar un número de coma flotante con un número entero? ¿El flotante se comparará con los enteros del código? float f; // f has a saved predetermined floating-point value to it if (f >=100)

c floating-point integer 2009-04-17

---

17El calor

5Respuesta

Representación de números enteros en dobles

¿Puede un doble (de un número dado de bytes, con un equilibrio de mantisa/exponente razonable) mantener con precisión el rango de un entero sin signo de la mitad de ese número de bytes? E.g. ¿Puede un

c math floating-point precision ieee-754 2009-04-17

---

10El calor

2Respuesta

¿Cómo puedo convertir cuatro caracteres en un flotador IEEE-754 de 32 bits en Perl?

Tengo un proyecto en el que una función recibe cuatro caracteres de 8 bits y necesita convertir el flotador IEEE-754 resultante de 32 bits en un número Perl normal. Parece que debería haber una manera

perl floating-point ieee-754 2009-04-20

---

228El calor

12Respuesta

¿Cuándo debería usar el doble en lugar del decimal?

puedo nombrar tres ventajas de utilizar double (o float) en lugar de decimal: usa menos memoria. Más rápido porque las operaciones matemáticas de punto flotante son compatibles de forma nativa con los

c# types floating-point double decimal 2009-04-29

---

28El calor

7Respuesta

¿Una buena forma de cortar un vector flotante?

Soy muy consciente de todos los problemas involucrados en la comparación de flotadores. Esta es exactamente la razón de esta pregunta. Estoy buscando crear una tabla hash rápida para valores que son v

floating-point hashtable hash 2009-03-16

---

6El calor

8Respuesta

Transmisión de una matriz de caracteres sin signo a una matriz de flotantes

¿Cuál es la mejor forma de convertir una matriz de caracteres sin signo a una matriz de elementos flotantes en C++? actualmente I tienen un bucle como sigue for (i=0 ;i< len; i++) float_buff[i]=

c++ casting floating-point char unsigned 2009-05-05

---

7El calor

3Respuesta

Valor absoluto de los flotadores en el núcleo OCaml

Estoy en la necesidad de una función de valor absoluto para los flotadores en OCaml y el núcleo del lenguaje de poseer uno, así que escribió lo siguiente: let absF (f:float) = if f > 0.0 then f else (

floating-point ocaml absolute-value 2009-03-20

---