floating-point

Supongo que otra forma de formular esta pregunta es a qué decimal puedes ir usando un float que solo estará entre 0 y 1? He ... lmente como un flotador es de 32 bits de tamaño, y solo de 0-1 en ese nivel de precisión contiene 1e + 44 números posibles...

En C#: Esto arroja un FormatException, que parece que no debería: Int32.Parse("1,234"); Esto no lo hace, lo que parece ... do el literal numérico "1,2,3,4" no sería un error tipográfico? Relacionados: C # Decimal.Analizar el problema con comas

¿Por qué 49.90 % 0.10 en JavaScript devuelve 0.09999999999999581? Esperaba que fuera 0.

Después de buscar un error de rendimiento durante mucho tiempo, leí sobre los valores de punto flotante denormales. Los valo ... de alguna manera instruir a g++ para evitar valores denormales? Si no, puedo de alguna manera probar si un float es denormal?

¿Hay alguna forma de configurar Visual Studio (recién actualizado de 2008 a 2010) para romper, como si una aserción fallara, ... Visual Studio, pero el programa no se rompe hasta que algo catastrófico sucede debido a la NaN más adelante en la ejecución.

Int es 4 bytes con un rango de + - 2^31 Float es de 4 bytes con un rango de +- 1.2 E(+- 38) Float abarca muchos más puntos e ... e que algo que representa (virtualmente) toda la línea real sea del mismo tamaño que el de los cuales representa los enteros.

Traté de mostrar una imagen de tipo CV_32F usando la función imshow pero mostraba una imagen BLANCA. En la Documentación s ... valores en A son 1000 como inicializados y rest son algunos números de coma flotante que se asignan durante el procesamiento.

Es importante tener en cuenta que no estoy buscando una función de redondeo. Estoy buscando una función que devuelve el númer ... ecimales en el flotador para que pueda multiplicarlo por la potencia apropiada de 10. Con suerte lo estoy pensando demasiado.

Tengo algunas pruebas unitarias de C# que realizan algunas operaciones float/double y me gustaría probarlas unitariamente. A ... o estoy perdiendo o tengo que tirar la mía? ¿Hay prácticas estándar en las pruebas de flotadores / dobles a tener en cuenta?

Tengo un float a = 1412.244019; Y necesito a ser redondeado al segundo decimal más cercano como 1412.24000000. Entiendo qu ... correctas, pero ya que solo puedo elija una, elegí la primera buena respuesta con explicación adicional (de las dos últimas).

Necesito una expresión regular para números decimales/flotantes como 12 12.2 1236.32 123.333 y +12.00 o -12.00 o ...123.123... para usar en javascript y jQuery. Agradecer.

Por supuesto, la mayoría de los lenguajes tienen funciones de biblioteca para esto, pero supongamos que quiero hacerlo yo mis ... do con el nuevo parte entera. La pregunta es, ¿este método garantiza la máxima precisión en todo? ¿Alguna idea al respecto?

Estoy manteniendo un script Python que usa xlrd para recuperar valores de hojas de cálculo de Excel, y luego hacer varias cos ... e haya ningún requisito formal que me impida cambiar las versiones; solo tiene que no estropear ninguno de los otros códigos.

Entiendo que los cálculos en coma flotante tienen problemas de precisión y hay muchas preguntas que explican por qué. Mi pre ... o se discutió en los comentarios para la respuesta seleccionada. Parece que tendré que hacer algunas pruebas y ver qué pasa.

Quiero asegurarme de que un float en PHP se redondea hacia arriba si cualquier decimal está presente, sin preocuparse por la ... ión round() pero no veo ninguna función para redondear si se encuentra algún decimal. ¿Hay alguna manera fácil de hacer esto?

¿Alguien sabe de un medio conveniente para determinar si un valor de cadena "califica" como un número de coma flotante? bool IsFloat( string MyString ) { ... etc ... return ... // true if float; false otherwise }

Se supone que el siguiente código encuentra la clave 3.0en un std::map que existe. Pero debido a la precisión de punto flotan ... lmente tengo que encapsular el tipo double en una clase y sobrescribir operator<(...) para implementar esta funcionalidad?

Estoy tratando de hacer una SELECT coincidencia en una tabla basada en un identificador y un precio, como: SELECT * FROM `t ... a 2 dígitos antes la operación se realiza en él, haciendo así el trabajo anterior SELECT (o alguna otra solución)? Gracias!

Se me ha pedido que pruebe una biblioteca proporcionada por un tercero. La biblioteca es conocida por ser exacta a n cifras ... y y la biblioteca estándar. Cualquier otra cosa será difícil para mí, especialmente para una parte tan pequeña del proyecto.

Estoy ejecutando pruebas NUnit para evaluar algunos datos de pruebas conocidos y resultados calculados. Los números son dobl ... e evaluar dos números de coma flotante son iguales con una precisión dada? ¿Hay una forma incorporada de hacer esto en NUnit?