floating-point
Java: ¿Por qué deberíamos usar BigDecimal en lugar de Double en el mundo real? [duplicar]
Esta pregunta ya tiene una respuesta aquí:
Doble frente BigDecimal?
... una explicación convincente excepto, "Normalmente se hace de esa manera".
¿Puede por favor arrojar luz sobre esta pregunta?
Utilidad de la señalización NaN?
Recientemente he leído bastante sobre IEEE 754 y la arquitectura x87. Estaba pensando en usar NaN como un" valor faltante "e ... FPU...
Además, me imagino que cualquier sqrt implementación que se respete comprueba para NaN y devuelve Nan inmediatamente.
Obtener el ancho real de punto flotante de un elemento
Estoy usando jQuery (v1.7.1) y necesito obtener el ancho absoluto de punto flotante de un elemento, pero todos los métodos de ... ue quiero decir en este jsFiddle
Entonces, mi pregunta es: ¿Cómo obtengo el valor de coma flotante del ancho de un elemento?
¿Qué es un" valor de sesgo " de números de coma flotante?
Al aprender cómo se representan los números de coma flotante en las computadoras, me he encontrado con el término "valor de s ... rte exponente de un número de coma flotante. ¿Cómo hacer esto ayuda a determinar si el exponente es negativo o positivo o no?
¿Cómo obtener la parte decimal de un flotador?
Necesito extraer la parte decimal de un número flotante, pero obtengo resultados extraños:
float n = 22.65f;
// I want x = 0 ... 0.6499996185302734
x = n - (int)n; // x = 0.6499996
¿por Qué sucede esto? ¿Por qué obtengo esos valores en lugar de 0.65?
La mejor manera de generar un flotador aleatorio en C #[cerrado]
¿Cuál es la mejor manera de generar un flotador aleatorio en C#?
Actualización: Quiero números aleatorios de coma flotante de float.Minvalue para flotar.Maxvalue. Estoy usando estos números en pruebas unitarias de algunos métodos matemáticos.
¿Por qué veo una variable doble inicializada a algún valor como 21.4 como 21.399999618530273?
double r = 11.631;
double theta = 21.4;
En el depurador, estos se muestran como 11.631000000000000 y 21.399999618530273.
¿Cómo puedo evitar esto?
punto flotante de precisión extendida de 80 bits en OCaml
¿Hay una biblioteca OCaml para aprovechar el tipo de coma flotante de precisión extendida de 80 bits en las arquitecturas IA ... aces MPFR pero mi biblioteca ideal sería más ligero. Lo ideal sería aprovechar las instrucciones históricas de coma flotante.
División eficiente en coma flotante con divisores enteros constantes
Una reciente pregunta, si a los compiladores se les permite reemplazar la división en coma flotante con la multiplicación en ... } while (arg.i != 0x80000000);
if (!err) printf ("%g, ", y);
y += 1.0f;
}
return EXIT_SUCCESS;
}
¿Cómo alterar un flotador por su incremento más pequeño (o cerca de él)?
Tengo un valor double f y me gustaría una forma de empujarlo ligeramente más grande (o más pequeño) para obtener un nuevo val ... es más importante que cualquier cambio que haga esté garantizado para producir un valor diferente y no redondear al original.
Unittest (a veces) falla debido a la imprecisión de punto flotante
Tengo un vector de clase que representa un punto en el espacio tridimensional. Este vector tiene un método normalize(self, ...
Nota : Soy consciente de que la cuestión de coma flotante puede estar en la propiedad Vector.length o en Vector.normalize().
¿Por qué una variable flotante deja de incrementarse a 16777216 en C#?
float a = 0;
while (true)
{
a++;
if (a > 16777216)
break; // Will never break... a stops at 16777216
}
... e deja de incrementarse en 16777216 en este código?
Editar:
O aún más simple:
float a = 16777217; // a becomes 16777216
En JavaScript, ¿por qué cero dividido por cero devuelve NaN, pero cualquier otro dividido por cero devuelve Infinito?
Me parece que el código
console.log(1 / 0)
Debe devolver NaN, pero en su lugar devuelve Infinity. Sin embargo este código: ... to de esta funcionalidad? No solo parece ser inconsistente, también parece ser incorrecto, en el caso de x / 0 donde x !== 0
redondee un número de punto flotante al siguiente valor entero en java
¿Cómo puedo redondear un número de coma flotante al siguiente valor entero en Java? Supóngase
2.1 -->3
3.001 -->4
4.5 -->5
7.9 -->8
ValueError: no se pudo convertir string a float: id
Estoy ejecutando el siguiente script python:
#!/usr/bin/python
import os,sys
from scipy import stats
import numpy as np
f= ... 135547, 5.9299061614, 5.9331108706, 5.0287087832, 4.57...]
Trabajo bien.
¿alguien Puede explicar un poco sobre esto?
thx
Solo muestra el punto decimal si el componente de punto flotante no lo es.00 sprintf / printf
Estoy bastante formateando un número de coma flotante, pero quiero que aparezca como un entero si no hay un número de coma fl ... hacer esto?
Lo estoy haciendo bastante perezosamente en ruby como así:
("%0.2fx" % (factor / 100.0)).gsub(/\.?0+x$/,'x')
El doble multiplicado por 100 y luego lanzado a largo está dando un valor incorrecto
Tengo el siguiente código:
Double i=17.31;
long j=(long) (i*100);
System.out.println(j);
O / P: 1730 //Expected:1731
D ... 1533{as Expected}
He intentado buscar en Google, pero no he podido encontrar la razón.Lo siento si la pregunta es trivial.
Comparación del número de punto flotante a cero
The C++ FAQ lite "[29.17] ¿Por qué no funciona mi comparación de coma flotante?" recomienda esta prueba de igualdad:
#includ ... arse isNearlyEqual (que es el caso Me importa).
Alguien señaló este enlace , que quiero compartir de manera más prominente.
¿Es estable la aritmética de coma flotante? [duplicar]
Esta pregunta ya tiene una respuesta aquí:
¿Las matemáticas de coma flotante son consistentes en C#? ¿Pu ... y de la máquina 1 es exactamente el mismo que el resultado de la máquina 2? Es decir, == la comparación devolvería verdadero
¿Cuál es la longitud máxima en caracteres necesaria para representar cualquier valor doble?
Cuando convierto una int de 8 bits sin signo en cadena, entonces sé que el resultado siempre será como máximo 3 caracteres (p ... ero realmente pequeño (es decir, 0.234234) será más largo que los números realmente grandes (dobles que representan enteros)?