floating-point
Cómo lidiar con la precisión de flotación en Javascript [duplicar]
Esta pregunta ya tiene una respuesta aquí:
¿Cómo lidiar con la precisión del número de coma flotante en ... x;
1.2000000000000002
Y:
>>> y = 1.23456789
>>> x = 0.2
>>> y - (y % x)
1.2000000000000002
Cálculos de punto flotante vs enteros en hardware moderno
Estoy haciendo un trabajo crítico de rendimiento en C++, y actualmente estamos usando cálculos enteros para problemas que son ... espués.
De todos modos, gracias por todas sus excelentes respuestas y ayuda. Siéntase libre de añadir cualquier otra cosa:).
Cadena PHP para Flotar
No estoy familiarizado con PHP en absoluto y tenía una pregunta rápida.
Tengo 2 variables @pricePerUnit y @invoicedUnits. Aq ... esperar, estas son cadenas).
Pero no tengo idea de cómo analizar/convertir / convertir variables en PHP.
¿Qué debo hacer?
Convertir Cadena a Entero / Flotante en Haskell?
data GroceryItem = CartItem ItemName Price Quantity | StockItem ItemName Price Quantity
makeGroceryItem :: String -> Floa ... *** Does not match : a -> b -> c -> d -> e -> f*
Pero ¿cómo hago b y c de tipo Float y Int, respectivamente?
C++: ¿Cómo redondear un doble a un int? [duplicar]
Posible Duplicado:round () para float en C++
Tengo un doble (llámelo x), destinado a ser 55 pero en realidad almacena ...
int y = (int) x;
Y = 54 en lugar de 55!
Esto me desconcertó durante mucho tiempo. ¿Cómo puedo redondearlo correctamente?
Cómo escribo un literal infinito de coma flotante en python
¿Cómo escribo un literal infinito de coma flotante en python?
He oído
inf = float('inf')
No Es portátil. Por lo tanto, me han recomendado lo siguiente:
inf = 1e400
Es cualquiera de estos estándar, o portátil? ¿Qué es la mejor práctica?
Objetivo C-comprobación del flotador para nan
Tengo una variable ( float slope) que a veces tendrá un valor de nan cuando se imprime ya que a veces ocurre una división por 0.
Estoy tratando de hacer un if-else para cuando eso suceda. ¿Cómo puedo hacer eso? if (slope == nan) no parece funcionar.
Comparación de coma flotante [duplicar]
Esta pregunta ya tiene una respuesta aquí:
Ejemplos de inexactitud en coma flotante
... Hubiera esperado que la salida de este código fuera 0 are right.
Pero para mi consternación la salida es 1 is right ¿por qué?
Funciones de comparación de coma flotante para C#
¿Puede alguien apuntar hacia (o mostrar) algunas buenas funciones generales de comparación de coma flotante en C# para compa ... nte? Quiero implementar funciones para IsEqual, IsGreater an IsLess. También solo me importan los dobles, no los flotadores.
¿Puede un valor flotante cercano a cero causar un error de división por cero?
Todo el mundo sabe que no se supone que compares flotadores directamente, sino que uses una tolerancia:
float a,b;
float ep ... usarlo en la división.
float a, b;
if (a != 0.0f) b = 1/a; // oops?
¿ También necesito comparar con epsilon en este caso?
¿Por qué 0.1 + 0.2 = = 0.3 en D?
assert(0.1 + 0.2 != 0.3); // shall be true
Es mi comprobación favorita de que un lenguaje utiliza aritmética nativa de coma ...
writeln(a + b != 0.3); // standard calculation in double precision
}
Salida:
false
true
Http://ideone.com/z6ZLk
Conversión De Cadena A Flotador en C#
Estoy convirtiendo una cadena como "41.00027357629127", y estoy usando;
Convert.ToSingle("41.00027357629127");
O
float.Pa ... tos métodos devuelven 4.10002732 E+15.
Cuando convierto a float quiero "41.00027357629127". Esta cadena debe ser la misma...
Sufijo de " f " en el valor flotante?
Me pregunto cuál es la diferencia entre estas dos variables en C:
float price = 3.00;
Y
float price = 3.00f;
¿La "f"final?
¿por qué f se coloca después de los valores flotantes?
¿No se por qué f o F se coloca después de los valores flotantes en Java u otros lenguajes? por ejemplo,
float fVariable = 12.3f;
¿Alguna otra característica que no sea indicar que se trata de un valor flotante?
¿Cómo puedo comprobar si un cero es positivo o negativo?
¿Es posible comprobar si un float es un cero positivo (0.0) o un cero negativo (-0.0)?
He convertido el float a un String y he comprobado si el primer char es un '-', pero ¿hay alguna otra forma?
¿Cuál es la diferencia entre lanzar a `float` y agregar `f` como sufijo al inicializar un `float`?
¿Cuál es la diferencia entre
float f = (float) 99.32 ;
Y
float f = 99.32f ;
Ambos compilados y ejecutados con éxito.
¿Debo usar double o float?
¿Cuáles son las ventajas y desventajas de usar uno en lugar del otro en C++?
Fácil impresión bonita de flotadores en python?
Tengo una lista de flotadores. Si simplemente lo print, se muestra así:
[9.0, 0.052999999999999999, 0.032575399999999997, 0 ... 0.032575399999999997, 0.010892799999999999, 0.055702500000000002, 0.079330300000000006]
[9.0, 0.05, 0.03, 0.01, 0.06, 0.08]
Formatear / Suprimir la Notación Científica de los Resultados de Agregación de Pandas de Python
Cómo se puede modificar el formato para la salida de una operación groupby en pandas que produce notación científica para núm ... tífica si convierto a cadena, pero ahora me pregunto cómo formatear cadena y agregar decimales.
sum_sales_dept.astype(str)
Cómo extraer un número flotante de una cadena [duplicate]
Esta pregunta ya tiene una respuesta aquí:
Extraer valor flotante / doble
... número de coma flotante. Digo flotante y no decimal ya que a veces es entero. Puede RegEx hacer esto o hay una mejor manera?