floating-point

He leído sobre la diferencia entre precisión doble y precisión simple. Sin embargo, en la mayoría de los casos, float y doubl ... Es este realmente el caso? ¿Cuándo son intercambiables los flotadores y los dobles? ¿Cuáles son las diferencias entre ellos?

En Python, ¿cómo puedo analizar una cadena numérica como "545.2222" a su correspondiente valor flotante, 542.2222? O analizar ... a "31" a un entero, 31? Solo quiero saber cómo analizar un flotador string a float, y (por separado) a int string a un int.

Estoy trabajando con datos de mapas, y el Latitude/Longitude se extiende a 8 decimales. Por ejemplo: Latitude 40.71727401 Lo ... y otro método a considerar para almacenar estos datos para que sea preciso. Se utilizará con los cálculos del mapa. ¡Gracias!

¿Cuál es la diferencia entre decimal, float y double en. NET? ¿Cuándo alguien usaría uno de estos?

¿Cómo puedo redondear un número decimal (coma flotante) al entero más cercano? Por ejemplo 1.2 = 1 1.7 = 2

Según html5.org, el atributo "value" del tipo de entrada "number", si se especifica y no está vacío, debe tener un valor que ... ue el tipo de entrada de número funcione con flotadores, no ints? O debo recurrir a una interfaz de usuario de jQuery plugin?

He buscado qué hace esto, pero ¿alguien realmente tiene un ejemplo de cuándo usarías la palabra clave strictfp en Java? Algui ... ontrado un uso para esto? ¿Habría algún efecto secundario de simplemente ponerlo en todas mis operaciones de coma flotante?

randrange(start, stop) solo toma argumentos enteros. Entonces, ¿cómo obtengo un número aleatorio entre dos valores flotantes?

Un colega mío se topó con un método para floor float numbers usando un bitwise or: var a = 13.6 | 0; //a == 13 Estábamos ... ciona en algunos casos? Claridad es obvio, ya que tuvimos que resolverlo, y bueno, estoy escribiendo esta pregunta. Gracias.

¿Por qué cambiar el orden de la suma devuelve un resultado diferente? 23.53 + 5.88 + 17.64 = 47.05 23.53 + 17.64 + 5.88 = ... 3333...) no se puede representar con precisión. ¿Por qué simplemente cambiar el orden de los elementos afecta el resultado?

¿Hay una manera de pasar entre 0 y 1 por 0.1? Pensé que podría hacerlo de la siguiente manera, pero falló: for i in range(0, 1, 0.1): print i En cambio, dice que el argumento step no puede ser cero, lo que no esperaba.

Tengo el siguiente script de prueba ficticio: function test(){ var x = 0.1 * 0.2; document.write(x); } test(); Es ... ustedes tiene alguna solución agradable y elegante. Por supuesto, de lo contrario redondearé a unos 10 dígitos más o menos.

Quería mostrar un número a 2 decimales. Pensé que podría usar toPrecision(2) en JavaScript . Sin embargo, si el número es 0 ... era de hacer esto? Puedo pensar en codificar algunas soluciones, pero me imagino (espero) que algo como esto está integrado?

Tengo el siguiente código. Me gustaría tener tal que si price_result es igual a un entero, digamos 10, entonces me gustaría a ... gual a 10.6 sería 10.60. No estoy seguro de cómo hacer esto. price_result = parseFloat(test_var.split('$')[1].slice(0,-1));

Usé la siguiente línea para convertir float a int, pero no es tan precisa como me gustaría: float a=8.61f; int b; b=(in ... tado es: 8 (Debería ser 9) Cuando a = -7.65f, el resultado es: -7 (Debería ser -8) ¿Cuál es la mejor manera de hacerlo ?

En el siguiente programa se puede ver que cada valor ligeramente menor que .5 se redondea hacia abajo, a excepción de 0.5. f ... unded is 1 0.5 rounded is 1 0.49999999999999994 rounded is 1 0.4999999999999999 rounded is 0 Estoy usando Java 6 update 31.

Tengo números flotantes como 3.2 y 1.6. Necesito separar el número en la parte entera y decimal. Por ejemplo, un valor de 3. ... funciona correctamente. El código anterior tiene la siguiente salida: n = 3.1 => remainer = 1.1 Lo que me falta aquí?

¿Es posible obtener la división por 0 (o infinito) en el siguiente ejemplo? public double calculation(double a, double b) ... lo? Tenga en cuenta que esta pregunta es para Java, pero creo que se aplicará a la mayoría de los lenguajes de programación.

Estoy tratando de encontrar la raíz cúbica más grande que es un número entero, que es menos de 12.000. processing = True n ... ción para verificar los valores finales y ver si son cero o no, aunque parece bastante engorroso. ¿Hay una manera más simple?

Aquí está el ejemplo con comentarios: class Program { // first version of structure public struct D1 { ... 0; bool r2 = c.Equals(d); // false! this is not the expected result } } Entonces, ¿qué piensas de esto?