precision

8El calor

3Respuesta

generación pi a nth dígito java

Quería saber cómo puedo generar pi en el enésimo dígito. Tengo un par de ideas básicas. Uso Math.PI y aumentar la precisión (si eso es posible), la fórmula Uso de Euler para generar pi, pero incluso e

java precision bigdecimal pi 2011-12-03

---

11El calor

4Respuesta

Determine la escala decimal MAX utilizada en una columna

En MS SQL, necesito un enfoque para determinar la escala más grande utilizada por las filas para una determinada columna decimal. Por ejemplo, Col1 Decimal (19,8) tiene una escala de 8, pero necesito

sql sql-server tsql decimal precision 2012-01-23

---

5El calor

1Respuesta

de salida para transmitir los números de flotador con precisión

tengo un problema con los números de flotador precisión: int main(void) { double b = 106.829599; float a = b; std::cerr << std::setprecision(6) << "a = " << a << "; b = " << b << std::e

c++ stream numbers precision 2012-01-27

---

5El calor

2Respuesta

Preservando la precisión de salida con Django DecimalField y PostgreSql Campo numérico

Estoy guardando datos en un back-end de PostgreSQL a través de Django. Muchos de los campos en mis modelos son DecimalFields configurados arbitrariamente en max_digits y decimales, que corresponden a

django postgresql precision 2011-09-06

---

7El calor

3Respuesta

¿Es seguro probar una carroza para una igualdad de 0.0?

Sé que es peligroso probar floats para determinar la igualdad debido a errores de precisión, pero ¿es seguro probar cero? Puedo pensar en algunos casos, por ejemplo, en la optimización de casos especi

comparison floating-point double precision equality 2011-12-20

---

6El calor

2Respuesta

Doble precisión extendida

¿Es posible obtener más de 16 dígitos con double de precisión sin usar quadruple? Si es posible, ¿depende del compilador o de algo más? Porque sé que alguien dijo que estaba trabajando con precisión d

double fortran precision 2012-02-09

---

20El calor

1Respuesta

¿Por qué la validación de beans Las restricciones mínimas/máximas no admiten el tipo doble?

¿Podría alguien explicarme por qué el JPA admite el tipo double como un tipo de campo, pero los constantes de validación del bean en javax.validation.constraints (es decir, @Min/@Max) no lo admiten? S

java constraints precision bean-validation 2011-09-14

---

26El calor

2Respuesta

C# pérdida de precisión de doble a decimal

Tengo un doble "138630.78380386264" y quiero convertirlo a un decimal, sin embargo cuando lo hago lo hago ya sea por fundición o usando Convert.ToDecimal() y pierdo precisión. ¿Qué está pasando? Tanto

c# double decimal precision 2011-09-17

---

7El calor

3Respuesta

ostream equivalente de% .2f o% .2lf

double d = 1/2.; printf("%.2lf\n", d); Esto imprime 0.50. Esto es lo que quiero replicar usando manipuladores ostream. Sin embargo, ninguno de los manipuladores iomanip obvio me permite establecer

c++ iostream precision 2011-09-29

---

6El calor

2Respuesta

precisión en Erlang

código siguiente me da 5.999999999999998 de resultado, pero la respuesta es correcta 6. Alpha = math:acos((4*4 + 5*5 - 3*3)/(2*4*5)) Area = 1/2 * 4 * 5 * math:sin(Alpha) ¿Es posible obtener 6?

erlang floating-point precision 2011-10-05

---