rounding-error

11El calor

1Respuesta

C# Redondeo MidpointRounding.ToEven frente a MidpointRounding.AwayFromZero

En C# ¿Hay alguna diferencia en la precisión de las dos estrategias de redondeo decimal MidpointRounding.ToEven y MidpointRounding.AwayFromZero? Quiero decir, ¿ambos aseguran una distribución pareja e

c# rounding-error 2011-09-09

---

25El calor

4Respuesta

Estándares de redondeo - Cálculos financieros

Tengo curiosidad acerca de la existencia de normas de "redondeo" cuando se trata del cálculo de datos financieros. Mi idea inicial es realizar el redondeo solo cuando los datos se presentan al usuario

rounding financial rounding-error bankers-rounding 2010-10-01

---

9El calor

4Respuesta

Diferencias de redondeo en el sistema basado en Windows vs Unix en sprintf

Tengo un problema en los sistemas basados ​​en UNIX sprintf no redondea correctamente el valor. Por ejemplo double tmp = 88888888888885.875 char out[512]; Eso es 88,888,888,888,885.875 sólo para se

c++ c windows unix rounding-error 2011-01-10

---

15El calor

6Respuesta

¿Qué clase usar para la representación monetaria?

¿Qué clase debo usar para la representación del dinero para evitar la mayoría de los errores de redondeo? ¿Debo usar Decimal, o un simple built-in number? ¿Existe alguna clase existente Money con sopo

python currency rounding-error arbitrary-precision precision 2009-09-10

---

5El calor

4Respuesta

No se puede insertar la tabla del servidor decimal a sql a través del código C#

No puedo insertar valores decimales en la tabla del servidor Sql. Lo que estoy tratando de hacer es auto explicativo a través de estas líneas de código: long fileSizeInBytes = ComponentUploadControl.F

c# decimal rounding-error 2011-05-02

---

5El calor

4Respuesta

Problema R con el redondeo de milisegundos

Dado el siguiente problema con el redondeo de milisegundos en R. ¿Cómo lo soluciono para que los tiempos sean los correctos? > options(digits.secs=3) > as.POSIXlt("13:29:56.061", format='%H:%M:%OS',

r time rounding milliseconds rounding-error 2012-06-07

---

6El calor

4Respuesta

Detección de pérdida de precisión al convertir de doble a flotante

Estoy escribiendo un fragmento de código en el que tengo que convertir los valores de doble a flotante. Estoy usando boost :: numeric_cast para hacer esta conversión que me alertará de cualquier desbo

c++ floating-point rounding floating-accuracy rounding-error 2010-07-13

---

11El calor

5Respuesta

php intval() y floor() valor de retorno que es demasiado bajo?

Como el tipo de datos flotantes en PHP es impreciso, y un FLOAT en MySQL ocupa más espacio que un INT (y es impreciso), siempre almaceno los precios como INT, multiplicándolo por 100 antes de almacena

php floating-accuracy rounding-error 2009-05-01

---

6El calor

3Respuesta

Minimizando el efecto de los errores de redondeo causados ​​por operaciones repetidas de manera efectiva

Recientemente me encontré con el Kahan (or compensated) summation algorithm for minimizing roundoff, y me gustaría saber si hay algoritmos equivalentes para la división y/o multiplicación, así como la

algorithm floating-point rounding-error 2010-09-14

---

58El calor

3Respuesta

BigDecimal multiplicar por cero

Estoy realizando una simple multiplicación con BigDecimal y he encontrado un comportamiento extraño al multiplicar por cero (multiplicar por cero es correcto en este caso de uso). matemáticas básicas

java bigdecimal numerical-analysis rounding-error 2012-08-14

---