floating-accuracy

¿Es posible obtener la división por 0 (o infinito) en el siguiente ejemplo? public double calculation(double a, double b) ... lo? Tenga en cuenta que esta pregunta es para Java, pero creo que se aplicará a la mayoría de los lenguajes de programación.

Mi pregunta es no acerca de la precisión flotante. Se trata de por qué Equals() es diferente de ==. Entiendo por qué .1f + . ... ? .1f + .2f == .3f; // false (.1f + .2f).Equals(.3f); // true (.1d + .2d).Equals(.3d); // false

Esta pregunta ya tiene una respuesta aquí: ¿Cómo lidiar con la precisión del número de coma flotante en ... x; 1.2000000000000002 Y: >>> y = 1.23456789 >>> x = 0.2 >>> y - (y % x) 1.2000000000000002

assert(0.1 + 0.2 != 0.3); // shall be true Es mi comprobación favorita de que un lenguaje utiliza aritmética nativa de coma ... writeln(a + b != 0.3); // standard calculation in double precision } Salida: false true Http://ideone.com/z6ZLk

Ayer durante la depuración algo extraño me sucedió y realmente no puedo explicarlo: Así que tal vez no estoy viendo lo obvio aquí o malinterpreté algo sobre decimales en. NET, pero ¿no deberían los resultados ser los mismos?

Esta pregunta ya tiene una respuesta aquí: ¿Está rota la matemática de coma flotante? ... on eso? Me preguntaba por qué mi programa seguía reportando resultados extraños. ¿Por qué PHP no devuelve el 0.01 esperado?

Estoy tratando de truncar números decimales a lugares decimales. Algo como esto: 5.467 -> 5.46 985.943 -> 985.94 ... 2) hace casi lo correcto, pero redondea el valor. No necesito el valor redondeado. Espero que esto sea posible en javascript.

¿Hay una biblioteca bignum para JavaScript o incorporada que pueda incluir como <script type="text/javascript" src="the_ ... ://www.mainebrook.com/john/fun/euler.html. ¿O recomendaría llamar desde JavaScript a una biblioteca Java bignum como apfloat?

En las bibliotecas estándar de C++ solo encontré un método de registro de coma flotante. Ahora utilizo log para encontrar el ... lugar de n.0. ¿Es correcto este miedo? ¿Cómo puedo modificar mi declaración para que siempre devuelva una respuesta correcta?

Solo por diversión y porque era muy fácil, he escrito un programa corto para generar Números de injerto, pero debido a proble ... es error de punto flotante. ¿Hay alguna manera de solucionar esto bajo Python? ¿O necesito pasar a C y usar GMP o algo así?

bc no le gustan los números expresados en notación científica (también conocida como notación exponencial). $ echo "3.1e1*2" ... a de obtener bc para entender la notación exponencial? Si no, ¿qué puedo hacer para traducirlos a un formato que bc entienda?

¿Cuál es la diferencia entre los dos siguientes? float f1 = some_number; float f2 = some_near_zero_number; float result; r ... . ¿Hay alguna precisión que se pueda obtener? Algunas pautas prácticas para usar este tipo de reparto también serían buenas.

¿Cómo explicar la inexactitud de coma flotante a los programadores nuevos y laicos que todavía piensan que las computadoras ... ece transmitir la idea mucho mejor que una explicación precisa, pero seca? ¿Cómo se enseña esto en las clases de Informática?

Tengo un problema muy molesto con grandes sumas de flotadores o dobles en Java. Básicamente la idea es que si ejecutamos: f ... ¿cómo deshacerse de esto? Intenté usar dobles a la mitad del error, pero el resultado sigue siendo el mismo. ¿Alguna idea?

En el siguiente código, ¿por qué hay una comparación con float?¿Epsilon y no 0? // Coroutine to move elements protected IEnu ... ion (newPostion); sqrRemainingDistance = (transform.position - end).sqrMagnitude; yield return null; } }

¿Alguien conoce la representación más eficiente para coordenadas lat/long? El nivel de precisión debería ser suficiente para ... otras palabras, cuál es la precisión mínima requerida para representar lat / long para un ¿dispositivo a nivel de consumidor?