floating-point

47El calor

2Respuesta

suma flotador con javascript

Duplicar posibles: Is JavaScript's Math broken? estoy calculando la suma de varios valores de coma flotante utilizando Javascript y ... me he dado cuenta de una cosa extraña que nunca visto antes de.

javascript math floating-point 2012-09-20

---

8El calor

1Respuesta

Diferencia entre/fp: strict y/fp: precise?

¿Cuándo usas fp: strict en lugar de fp: precise? ¿Es mejor usar el anterior si quiero cálculos "más precisos" y evitar errores de redondeo? ¿Cuál es la heurística detrás de usar cualquiera?

c++ visual-c++ floating-point floating-point-precision visual-studio-2010 2012-09-20

---

42El calor

4Respuesta

¿Por qué una variable flotante deja de incrementarse en 16777216 en C#?

float a = 0; while (true) { a++; if (a > 16777216) break; // Will never break... a stops at 16777216 } ¿Alguien puede explicarme por qué un valor flotante deja de incrementarse en

c# floating-point 2012-09-26

---

5El calor

2Respuesta

método Indefinido `-' para "100": Cadena

Este código Ruby: income = "100" bills = "52" puts income - bills arrojó un error: ./to_f.rb:6: undefined method `-' for "100":String (NoMethodError) ¿El Ruby no auto-convertir cadenas a número

ruby string floating-point integer 2012-09-26

---

18El calor

5Respuesta

¿Está garantizado que "(flotante) entero == entero" será igual en C#?

Mientras que "todos sabemos" que x == y puede ser problemático, donde x y y valores de punto flotante, esta pregunta es un poco más específico: int x = random.Next(SOME_UPPER_LIMIT); float r = x; //

c# floating-point equality 2012-09-27

---

9El calor

7Respuesta

Cuál es la manera correcta de parseFloat en Java

puedo tener algunos problemas con la precisión float de Java Float.parseFloat("0.0065") - 0.001 // 0.0055000000134110451 new Float("0.027") - 0.001 // 0.02600000000700354575 Float.value

java floating-point precision 2012-10-05

---

13El calor

2Respuesta

C++ flotar la inicialización del campo

Duplicar posibles: C and C++ : Partial initialization of automatic structure Mientras lee Code Complete, me encontré con un C++ ejemplo la inicialización del campo: float studentGrades[ MAX_STUDENTS ]

c++ arrays floating-point initialization 2012-10-08

---

9El calor

4Respuesta

Número de dígitos significativos para un tipo de punto flotante

La descripción del tipo float en C menciona que el número de dígitos significativos es 6. Sin embargo, float f = 12345.6; y luego imprimirlo usando printf() no imprime 12345.6, imprime 12345.599609.

c floating-point floating-point-conversion 2012-10-10

---

5El calor

4Respuesta

Conversión int a flotación de 16 bits (coma flotante de precisión media) en C++

¿Cómo puedo convertir un integer en un half precision float (que se almacenará en una matriz unsigned char[2]). El rango a la entrada int será desde 1-65535. La precisión realmente no es una preocupac

c++ c floating-point 2012-10-10

---

10El calor

2Respuesta

¿De qué manera los operadores relacionales no obedecen el contrato compareTo con los valores de coma flotante?

Citado de Effective Java - Segunda edición por Joshua Bloch Para los campos de coma flotante, utilice Double.compare o Float.compare en lugar de los operadores relacionales, que no obedecen el contrat

java floating-point compare compareto 2012-10-12

---