floating-point

6El calor

3Respuesta

Conversión/cuantificación del rango de flotación al rango entero

Digamos que tengo un flotador en el rango de [0, 1] y quiero cuantizarlo y almacenarlo en un byte sin signo. Suena como una obviedad, pero en realidad es bastante complicado: La solución obvia es el s

floating-point integer rounding quantization 2009-03-01

---

194El calor

7Respuesta

Cómo convertir cadenas en float en JavaScript?

Estoy tratando de analizar dos valores de una cuadrícula de datos. Los campos son numéricos, y cuando tienen una coma (por ejemplo, 554,20), no puedo obtener los números después de la coma. He intenta

javascript parsing floating-point 2009-03-13

---

9El calor

3Respuesta

ronda en PHP muestra notación científica en lugar de número completo

Estoy tratando de hacer un eco de una variable que contiene 1400000. por lo que está escrito: echo round(1400000); esto da 1,4E + 6 en lugar del número completo. ¿Alguien una idea sobre cómo mostrarlo

php floating-point integer rounding 2009-01-29

---

11El calor

2Respuesta

¿Cómo se calcula div y mod de números de coma flotante?

En Perl, el operador % parece asumir números enteros. Por ejemplo: sub foo { my $n1 = shift; my $n2 = shift; print "perl's mod=" . $n1 % $n2, "\n"; my $res = $n1/$n2; my $t =

perl math floating-point division modulo 2009-01-30

---

19El calor

7Respuesta

¿Hay una función para redondear un flotador en C o tengo que escribir la mía?

¿Hay una función para redondear un flotador en C o tengo que escribir la mía? flotador conver = 45. 2346543; me gustaría redondear el valor real con un decimal, conver = 45. .

c floating-point rounding 2009-01-30

---

38El calor

11Respuesta

Extrae la parte decimal de un número de coma flotante en C

¿Cómo podemos extraer la parte decimal de un número de coma flotante y almacenar la parte decimal y la parte entera en dos variables enteras separadas?

c floating-point decimal numbers 2009-02-01

---

9El calor

5Respuesta

¿Cómo lidiar con el exceso de precisión en los cálculos de coma flotante?

En mi simulación numérica Tengo un código similar al del siguiente fragmento double x; do { x = /* some computation */; } while (x <= 0.0); /* some algorithm that requires x to be (precisely)

c++ c floating-point 2009-02-02

---

11El calor

10Respuesta

PI y precisión de un número de punto flotante

Una representación en coma flotante de precisión simple/doble/extendida de Pi es exacta hasta cuántos lugares decimales?

floating-point floating-accuracy 2009-02-03

---

221El calor

7Respuesta

¿Cuándo debería usar la palabra clave "strictfp" en java?

He buscado lo que hace esto, pero ¿alguien realmente tiene un ejemplo de cuándo usaría la palabra clave strictfp en Java? ¿Alguien ha encontrado un uso para esto? ¿Habría algún efecto secundario de so

java floating-point strictfp 2009-02-05

---

25El calor

6Respuesta

Flotante en la base de datos a? en .NET

Si tiene un flotador en MSSQLServer, ¿a qué se asigna esto en .NET? ¿Se puede convertir a Doble o perderá números?

.net sql-server types floating-point double 2009-02-13

---