precision

7El calor

3Respuesta

C# Problema de precisión doble

Imagine que a - b < c (a, b, c son dobles de C#). ¿Está garantizado que a < b + c? Gracias! EDITAR Digamos que el desbordamiento aritmético no se produce a diferencia del ejemplo siguiente: double a =

c# double precision 2010-09-03

---

6El calor

2Respuesta

AS3 xyy precisión de propiedad

En ActionScript 3 (y IIRC 2), las propiedades x e y de un objeto de visualización siempre se almacenan como múltiplos de 0,05. así que algo como obj.x = 66.6666 es lo mismo que obj.x = 66.65 mayoría d

flash actionscript-3 rendering coordinates precision 2010-10-30

---

15El calor

3Respuesta

¿Hay alguna forma de obtener las "cifras significativas" de un decimal?

Actualización Bien, después de algunas investigaciones, y gracias en gran parte a las útiles respuestas proporcionadas por Jon y Hans, esto es lo que pude juntar. Hasta ahora, creo que parece funciona

.net decimal precision significant-digits 2010-09-10

---

5El calor

3Respuesta

Precisión aritmética con dobles en Matlab

Estoy teniendo problemas para entender cómo la precisión de estos dobles afecta el resultado de las operaciones aritméticas en Matlab. Pensé que dado que ambos, un & b, son dobles, podrían llevar a ca

matlab floating-point double precision 2010-09-13

---

83El calor

7Respuesta

Diferencia entre toFixed() y toPrecision()?

Soy nuevo en JavaScript y acabo de descubrir toFixed() y toPrecision() para redondear los números. Sin embargo, no puedo entender cuál es la diferencia entre los dos. ¿Cuál es la diferencia entre numb

javascript rounding precision 2010-07-26

---

14El calor

7Respuesta

Precisión de intervalo automático en MS Chart

Actualmente estoy usando la creación de gráficos dentro de .NET usando System.Windows.Forms.DataVisualization.Charting.Chart. Hasta ahora parece muy poderoso y funciona muy bien. Sin embargo, hay un g

c# precision data-visualization mschart intervals 2010-09-17

---

6El calor

3Respuesta

Problemas con la comprobación de la igualdad de dos dobles en .NET: ¿qué hay de malo con este método?

Así que voy a sumergirme en este tema ... Tengo una aplicación web muy usada que, por primera vez en 2 años, falló al hacer un control de igualdad en dos dobles usando la función de igualdad, dijo un

asp.net vb.net floating-point decimal precision 2010-08-05

---

5El calor

3Respuesta

¿Cómo manejan printf y scanf los formatos de precisión de coma flotante?

Considere el siguiente fragmento de código: float val1 = 214.20; double val2 = 214.20; printf("float : %f, %4.6f, %4.2f \n", val1, val1, val1); printf("double: %f, %4.6f, %4.2f \n", val2, val2, va

c floating-point double precision 2010-09-24

---

5El calor

2Respuesta

Sql Server Precision Crazyness

Tengo un problema con la precisión del servidor sql. tengo las siguientes consultas: DECLARE @A numeric(30,10) DECLARE @B numeric(30,10) SET @A = 20.225 SET @B = 53.3875 SELECT @A * @B DECLARE @

sql-server tsql precision 2010-11-16

---

6El calor

3Respuesta

C++ vs precisión Python

Probar una problema de encontrar los primeros dígitos k de un num^num escribí el mismo programa en C++ y Python C++ long double intpart,num,f_digit,k; cin>>num>>k; f_digit= pow(10.0,modf(num*log10(n

c++ python floating-point precision floating-accuracy 2010-10-02

---