precision

10El calor

3Respuesta

calcular una función en Matlab con valores muy pequeños

estoy haciendo una función en MATLAB para calcular la siguiente función: para esta función que tenemos: Este es mi implementación en Matlab de la función: function [b]= exponential(e) %b = ? b= (exp

6El calor

1Respuesta

QString :: toDouble() dándome el doble con la precisión incorrecta

Tengo un QString myNumber que contiene "09338.712001". Cuando lo hago: myNumber.toDouble();, devuelve 9338.71, pero quiero que el doble sea el valor original, que es 09338.712001. ¿Alguien sabe cómo o

20El calor

3Respuesta

¿Qué significa "real * 8"?

El manual de un programa escrito en Fortran 90 dice: "Todas las variables y parámetros reales se especifican en precisión de 64 bits (es decir, real*8)". De acuerdo con Wikipedia, la precisión simple

8El calor

1Respuesta

Fortran: ajuste tipo/precisión de una variable en tiempo de ejecución

¿Es posible hacer que la precisión de una variable en sí misma sea una variable que se definirá en un tiempo de ejecución? decir que, si intento compilar: SUBROUTINE FOO(VARIABLE, PRECISION_VALUE)

30El calor

3Respuesta

Cambiar la precisión de la columna numérica en Oracle

Actualmente tengo una columna que se declara como NÚMERO. Quiero cambiar la precisión de la columna a NÚMERO (14,2). SO, me encontré con el comando alter table EVAPP_FEES modify AMOUNT NUMBER(14,2)'

14El calor

3Respuesta

Precisión de flotadores con printf

Como todos saben, tiene una precisión limitada cuando usa printf para generar el valor de float. Sin embargo, hay un truco para aumentar la precisión en la salida, como muestra este ejemplo: #include

12El calor

2Respuesta

¿Por qué -freciprocal-math no es seguro en GCC?

-freciprocal-math en GCC cambia el código siguiente double a = b/c; a double tmp = 1/c; double a = b * tmp; En manual de GCC, se dice que tal optimización es inseguro y no va pegada en los estánd

6El calor

2Respuesta

Normalizando variables en C++ entre (0,1) para obtener precisión en aritmética

Estaba calculando proyecciones de puntos 2D normalizados y accidentalmente noté que eran más precisas que cuando se proyectaban los puntos sin normalizarlos. Mi código está en C++ y compilo con NDK pa

24El calor

6Respuesta

¿Existe alguna forma confiable en JavaScript para obtener el número de decimales de un número arbitrario?

Es importante tener en cuenta que no estoy buscando una función de redondeo. Estoy buscando una función que devuelva el número de decimales en la representación decimal simplificada de un número arbit

7El calor

1Respuesta

¿Por qué java.awt.Point proporciona métodos para establecer y obtener dobles, pero almacena xey como int?

Como puede ver en la Documentación de Oracle para java.awt.Point, xey se almacenan como int. Sin embargo, getX y getY devuelven double. Si bien hay un método setLocation que toma 2 tipos double, no ha