Obteniendo el resultado incorrecto para la evaluación de los valores de 100 * 2.55

Question

Estoy obteniendo el resultado incorrecto usando el método a continuación.

public double evaluate(final double leftOperand, final double rightOperand) { 
     Double rtnValue = new Double(leftOperand * rightOperand); 
     return rtnValue.doubleValue(); 
    } 

Introducir valor del parámetro son: leftOperand = 100 y rightOperand = 2.55

estoy recibiendo Respuesta equivocada: 254,99999999999997

La respuesta correcta es un 255,0

Answer 1

Uso BigDecimal

BigDecimal bd = new BigDecimal("100"); 
BigDecimal ans = bd.multiple(new BigDecimal("2.55")); 
System.out.println(ans); 

Véase también

• Working IDE One demo

• Retain precision with double in Java

Answer 2

Esto es debido a floating point precision problem. Es imposible representar cada número racional dentro de los 64 bits. Los números se almacenan dentro del IEEE 754 format.

Si está creando un juego, esto es más que suficiente, incluso la flotación lo hará. Pero si está financiando algo, debería ser correcto. Entonces puede usar java.math.BigDecimal. Es mucho más lento que double pero es correcto. Y requiere mucha más memoria, ya que tiene un valor exacto en la memoria. Aquí hay un buen tutorial sobre cómo usar BigDecimal.

Answer 3

Usando Math.round().

public static double evaluate(final double leftOperand, final double rightOperand) { 
     Double rtnValue = new Double(leftOperand * rightOperand); 
     return Math.round(rtnValue.doubleValue()); 
    }