Cuando puedo depurar mi software en VS C++ mediante la intensificación del código Noto que algunos cálculos flotador se muestran como un número con un punto de salida, es decir:¿El punto en el extremo de un flotador sugiere falta de precisión?
1232432.
Una operación que conducen a este resultado es la siguiente:
float result = pow(10, a * 0.1f)/b
donde a es un número negativo grande aproximadamente un -50 a -100 y b es lo más a menudo alrededor de 1. he leído algunos artículos sobre un problema con precisión cuando se trata de puntos flotantes. Mi pregunta es si el punto final es una forma Visual-Studio de decirme que la precisión es muy baja en este número, es decir, en el resultado de la variable. Si no, ¿qué significa?
Esto vino hoy al trabajo y recuerdo que había un problema para números más grandes, así que esto ocurría siempre (y con "esto" me refiero a ese punto final). Pero sí recuerdo que sucedió cuando había siete dígitos en el número. Aquí Wright que la precisión de los flotadores son siete dígitos:
C++ Float Division and Precision
Puede esto ser la cosa y Visual Studio me dice esto poniendo un punto en el final?
¡PIENSO QUE LO ENCONTRÉ! Dice "La mantisa se especifica como una secuencia de dígitos seguida de un punto". ¿Qué significa la mantisa? ¿Puede esto ser diferente en una PC y cuando se ejecuta el código en un DSP? Porque la cosa es que obtengo resultados diferentes y lo único que me parece extraño es esta cosa de la época, ya que no sé lo que significa.
http://msdn.microsoft.com/en-us/library/tfh6f0w2(v=vs.71).aspx
FYI '1.' y' .1' son literales dobles válidos en C++ (al menos gcc) – Joe
I consiguen que .1 es un float/double válido, pero ¿por qué no imprime el mismo rastreo? por cada carroza? Si un doble es cero, imprime 0.00000 pero nevery 0. solamente. Por qué es un punto final solo un par de veces, debe ser algo especial que ocurre para algunos números grandes. –
@ThomasJohansson: Tendrás que hablar de eso con el equipo VS, supongo. El punto es que no tiene absolutamente nada que ver con la precisión de un flotador. Aquí, debes saber [este material] (http://docs.oracle.com/cd/E19957-01/806-3568/ncg_goldberg.html). –