floating-point

Cuando x es un double, es (x - x) garantizado que es +0.0, o podría ser a veces -0.0 (dependiendo del signo de x)?

Supongamos que estoy teniendo 8.8333333333333339 y quiero convertirlo a 8.84, ¿cómo puedo lograr esto en python? round(8.8333 ... s información sobre el problema, consulte Consejos de programación en Python de Tim Wilson: Calculadora de préstamos y pagos.

Este es el escenario: Estoy obteniendo .9999999999999999 cuando debería obtener 1.0. Puedo permitirme perder un lugar decimal ... lmente tienen datos después del punto decimal. Idealmente, habría exactamente tantos decimales como sea necesario (hasta 15).

Mientras trabajaba en un proyecto, me encontré con un script JS creado por un ex empleado que básicamente crea un informe en ... os. Aunque no conozco mucho JavaScript. ¿Cómo voy a escribir un método que toma estos flotadores a veces y los hace enteros?

Estoy haciendo un programa que, por razones que no necesitan ser explicadas, requiere que un float sea convertido en una cade ... a. ¿Alguien sabe de una solución para él? Aquí está el código que se está utilizando si quieres saber: len(str(float(x)/3))

Esta pregunta ya tiene una respuesta aquí: ¿Está rota la matemática de coma flotante? ... on eso? Me preguntaba por qué mi programa seguía reportando resultados extraños. ¿Por qué PHP no devuelve el 0.01 esperado?

¿Por qué la comparación del infinito no sigue la lógica aplicada a las NaNs? Este código imprime false tres veces: double a ... ientos, imagino que es más probable que dos variables que terminaron como infinitos no serían iguales en aritmética perfecta.

Current learning Swift, hay maneras de encontrar maxy minvalor para diferentes tipos de Entero como Int.max y Int.min. ... é documento debo remitirme para este tipo de preguntas? Actualmente estoy leyendo El Lenguaje de Programación Swift de Apple.

Ejemplo: float timeRemaining = 0.58f; ¿Por qué se requiere f al final del número?

Estoy usando el módulo estándar json en python 2.6 para serializar una lista de flotadores. Sin embargo, estoy obteniendo re ... No quiero tener dependencias externas, así que prefiero para seguir con el módulo json estándar. ¿Cómo puedo lograr esto?

En el stdint.h (C99), boost/cstdint.hpp, y cstdint (C++0x) encabezados hay, entre otros, el tipo int32_t. ¿ Hay tipos similares de punto flotante de tamaño fijo? Algo como float32_t?

Si ejecutamos el siguiente código C# en una aplicación de consola, obtendremos un mensaje como The sums are Not equal. Si lo ... { System.Console.WriteLine(a + b); return a + b; } ¿Cuál es la verdadera razón de este comportamiento?

Necesito redondear números de punto flotante hasta el entero más cercano, incluso si el número después del punto es menor que 0.5. Por ejemplo, 4.3 debe ser 5 (no 4) 4.8 debe ser 5 ¿Cómo puedo hacer esto en JavaScript?

Necesito generar 4 flotadores diferentes con dos decimales. Esto es lo que tengo: print '%.2f' % var1,'kg =','%.2f' % var2, ... muy impuro, y se ve mal. ¿Hay una manera de hacer que cualquier flotar en que fuera puesto'%.2f'? Nota: Usando Python 2.6.

¿Por qué los dobles tienen -0 así como +0? ¿Cuál es el trasfondo y el significado?

Sé un poco sobre cómo se representan los números de coma flotante, pero no lo suficiente, me temo. La pregunta general es: ... go de números de 16 bits y 32 bits con precisión de + / -0.5 (el lugar de las unidades) o + / - 0.0005 (las milésimas lugar).

Estoy tratando de truncar números decimales a lugares decimales. Algo como esto: 5.467 -> 5.46 985.943 -> 985.94 ... 2) hace casi lo correcto, pero redondea el valor. No necesito el valor redondeado. Espero que esto sea posible en javascript.

Quiero almacenar 3.50 en una tabla mysql. Tengo un flotador en el que lo almaceno, pero se almacena como 3.5, no 3.50. ¿Cómo puedo conseguir que tenga el cero final?

¿Hay alguna ganancia de rendimiento (no microoptimización) al codificar float f1 = 200f / 2 En comparación con float f2 ... tos algorítmicos / arquitectónicos que hacen que > la división sea mucho más complicada en hardware que la multiplicación

Encontré una aproximación de raíz cuadrada bastante extraña pero de trabajo para float s; realmente no lo entiendo. ¿Alguien ... ión de cómo funciona . (nota: Lo he etiquetado tanto c y c++ ya que ambos son válidos (ver comentarios) Código C y C++)