QString :: toDouble() dándome el doble con la precisión incorrecta

Question

Tengo un QString myNumber que contiene "09338.712001". Cuando lo hago:

myNumber.toDouble();, devuelve 9338.71, pero quiero que el doble sea el valor original, que es 09338.712001. ¿Alguien sabe cómo obtener el doble devuelto por toDoble para tener la misma precisión que el QString? Gracias.

Answer 1

Probablemente su problema esté en la forma en que genera estos valores.

QString s("9338.712001"); 
bool ok = false; 

double a = 9338.712001; 
double b = s.toDouble(&ok); 
double c = 1/3.0; 

qDebug() << "a: " << a; 
qdebug() << "b: " << b; 

qDebug() << "a: " << QString("%1").arg(a, 0, 'g', 13) 
qDebug() << "b: " << QString("%1").arg(b, 0, 'e', 13); 

qDebug() << "c: " << QString("%1").arg(c, 0, 'g', 30); 

resultado:

a: 9338.71 
b: 9338.71 
a: "9338.712001" 
b: "9.3387120010000e+03" 
c: "0.333333333333333314829616256247" 

Pero de todos modos, tal vez ahora es un buen momento para leer esto: What Every Computer Scientist Should Know About Floating-Point Arithmetic