floating-point

Tengo un MySQL BIGINT que estoy almacenando en datos HTML5. Entonces estoy tratando de acceder a ese valor y pasarlo a través ... porque ya es demasiado tarde - ya se ha redondeado (en este caso a 211285677671858180). ¿Qué puedo hacer para arreglar esto?

Cuando se multiplica un número de coma flotante que está muy cerca de 1 con un int > 0, puede interpretarse como 1. Es d ... ript 3 tampoco, ya que un colega que informó que vio que salió mal una vez es lo que en parte me llevó a hacer esta pregunta.

Quiero imprimir algunos números de coma flotante para que siempre estén escritos en forma decimal (por ejemplo, 1234500000000 ... Dado que estoy desarrollando principalmente en Python 3, aceptaré mi propia respuesta, y le otorgaré a Karin la recompensa.

Encontré esto en el Código fuente . NET: Afirma ser 100 veces más rápido que System.Double.IsNaN. ¿Hay alguna razón para no u ... c unsafe static bool IsNaN(double d) { return (*(UInt64*)(&d) & 0x7FFFFFFFFFFFFFFFL) > 0x7FF0000000000000L; }

Pregunta En Haskell, las bibliotecas base y los paquetes Hackage proporcionan varios medios para convertir datos binarios en ... ecodeFloat, que aparentemente están llenas de inconsistencias. Todavía no he encontrado una manera de evitar estos problemas.

Tengo un programa, que se está ejecutando en dos procesadores, uno de los cuales no tiene soporte de coma flotante. Por lo ta ... )&number; s = *ptr >> 31; e = *ptr & 0x7f800000; e >>= 23; m = *ptr & 0x007fffff; }

Si pones un decimal en un formato donde tiene que ser redondeado al 10 más cercano, y es: 1.55, redondeará a 1.5. 1.56 se red ... 5) # This will return '1.6' ¿Por qué el diferencia al usar 1.55 vs 5.55. Ambos se escriben como literales (así que flota)

Nosotros sabemos que usar double para la moneda es propenso a errores y no se recomienda. Sin embargo, todavía no veo un ejem ... obablemente se puede simplificar), pero se puede encapsular fácilmente en algún lugar. Por eso estoy buscando más respuestas.

Solo tengo curiosidad, ¿por qué en IEEE-754 cualquier número flotante distinto de cero dividido por cero da como resultado un ... -754. Debe haber una razón para esto, tal vez algunas razones de optimización o compatibilidad. Entonces, ¿cuál es el punto?

¿Hay una diferencia en el tamaño double cuando corro mi aplicación en entornos de 32 y 64 bits? Si no me equivoco, el doble en el entorno de 32 bits ocupará 16 dígitos después de 0, mientras que el doble en 64 bits ocupará 32 bits, ¿tengo razón?

Tienes un vector de tres (o cuatro) flotadores. ¿Cuál es la manera más rápida de sumarlos? Es SSE (movaps, shuffle, add, mov ... más rápida? "Trate de organizar las cosas para que pueda sumar cuatro vectores a la vez" no se aceptará como respuesta. :-)

Obtuve un objeto timedelta de la resta de dos datetimes. Necesito este valor como punto flotante para cálculos adicionales. T ... el resultado sigue siendo un objeto timedelta. time_d = datetime_1 - datetime_2 time_d_float = float(time_d) No funciona.

Sé que es una pregunta extraña, pero ¿JavaScript tiene la capacidad de trabajar con dobles en lugar de flotadores individuales? (flotadores de 64 bits vs. 32 bits.)

En primer lugar, esta no es una pregunta de punto flotante para novatos. Sé que los resultados de la aritmética de coma flota ... otencia de 2 es una operación con pérdida en números de punto flotante a menos que sepa que tiene bits libres para trabajar).

En el seguimiento de esta pregunta, parece que algunos números no pueden ser representados por coma flotante en absoluto, y ... sito lidiar para enviar un número de coma flotante desde un programa python a un programa en C a través de TCP / IP)? -Adam

package main import ( "fmt" "strconv" ) func main() { k := 10/3.0 i := fmt.Sprintf("%.2f", k) f,_ : ... le go float64 a 2. En este caso estaba usando tanto strconv y fmt. ¿Hay algún otro método lógico por el cual se pueda hacer?

Me pregunto si la siguiente notación de coma flotante es una notación JSON válida: "result":{"base_fee":1e-005} ¿O debería reemplazarse la notación exponente por una notación decimal?

Me enfrento a un comportamiento extraño de la función round(): for i in range(1, 15, 2): n = i / 2 print(n, "=>" ... iento, y cuál es la mejor manera de obtener el resultado correcto? Traté de usar la fractions pero el resultado es el mismo.

Para los tipos T para los que std::is_floating_point<T>::value es true, ¿el estándar de C++ especifica algo sobre la fo ... rse? Por ejemplo, ¿T tiene que seguir una representación de signo/mantissa/exponente? ¿O puede ser completamente arbitrario?

Estoy tratando de crear un flotador aleatorio entre 0.15 y 0.3 en Objective-C. El siguiente código siempre devuelve 1: int randn = (random() % 15)+15; float pscale = (float)randn / 100; ¿Qué estoy haciendo mal?