floating-point

6El calor

2Respuesta

Calcule la unidad en el último lugar (ULP) para los dobles

¿.NET tiene un método incorporado para calcular el ULP de un doble o flotación dado? Si no, ¿cuál es la forma más eficiente de hacerlo?

c# .net floating-point double 2012-02-28

---

16El calor

3Respuesta

Operación de módulo de coma flotante

Estoy tratando de implementar la operación de reducción de rango para trigonometría. Pero, en cambio, creo que sería mejor simplemente realizar una operación de módulo pi/2 en los datos entrantes. Me

c assembly binary floating-point modulo 2012-02-29

---

197El calor

3Respuesta

¿Por qué estos números no son iguales?

El siguiente código es obviamente incorrecto. ¿Cuál es el problema? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.1

r floating-point floating-accuracy r-faq 2012-02-29

---

14El calor

2Respuesta

¿Qué comparación de punto flotante es más precisa y por qué?

Estoy experimentando con diferentes implementaciones del método de Newton para calcular las raíces cuadradas. Una decisión importante es cuándo terminar el algoritmo. Obviamente no va a hacer para uti

algorithm floating-point numerical-analysis 2012-03-02

---

36El calor

3Respuesta

Valor para épsilon en Python

¿Existe un valor estándar para (o el método para obtener) épsilon en Python? Necesito comparar valores de coma flotante y quiero comparar con la diferencia más pequeña posible. En C++ hay una función

python comparison floating-point epsilon 2012-03-02

---

24El calor

6Respuesta

¿Existe alguna forma confiable en JavaScript para obtener el número de decimales de un número arbitrario?

Es importante tener en cuenta que no estoy buscando una función de redondeo. Estoy buscando una función que devuelva el número de decimales en la representación decimal simplificada de un número arbit

javascript floating-point decimal precision fractions 2012-03-02

---

8El calor

8Respuesta

igualdad flotante/doble con cero exacto

Tengo un algoritmo que usa floats o doubles para realizar algunos cálculos. Ejemplo: double a; double b; double c; ... double result = c/(b - a); if ((result > 0) && (result < small_number)) {

c++ floating-point 2012-03-03

---

6El calor

2Respuesta

PHP extraño resultado de multiplicar por -1

$res = 0.0 * -1.0; consigo flotador -0 ¿Qué es este extraño comportamiento?

php floating-point 2012-03-03

---

6El calor

1Respuesta

Números flotantes de Python "float" y PostgreSQL "double precision"

¿El tipo "float" de Python y el tipo "double precision" de PostgreSQL se basan en la misma implementación C? Puede que no sea el verdadero problema subyacente aquí, pero de todos modos, esto es lo que

python django postgresql floating-point 2012-03-04

---

8El calor

2Respuesta

tipo de datos a la tienda longitud/latitud en MySQL

'43.005895','-71.013202' Tratar de utilizar: INSERT INTO table(fanDetLocZip, fanDetLocCity, fanDetLocState, fanDetLocLat, fanDetLocLong, fanDetLocTZ, fanDetLocDST) VALUES(00210, 'Portsmouth', 'NH',

mysql floating-point geospatial sqldatatypes 2012-03-05

---