Problemas de cálculo con operaciones con números con decimales

Question

Buenas tardes.

Estoy trabajando (en VB .Net 4.6) con un facturador de ventas y tengo el siguiente inconveniente, al querer realizar el cálculo: 100.02-100=0.02, obtengo:
Caso 1: 100.02-100 -> 0.019999999999996021 (Double) X
Caso 2: CDec(100.02-100) -> 0.019999999999996 (Decimal) X
Caso 3: cdec(100.02)-cdec(100) -> 0.02 (Decimal) √

Si uso tipos de datos System.Single tengo estas diferencias, pero si uso System.Decimal es matar un mosquito con un cañon. Sólo utilizo 2 decimales significativos.

¿Es un 'error' de esta versión del framework? ¿Sí o sí debo utilizar tipos de datos System.Decimal para evitar las diferencias al operar con System.Single y System.Double?

No es tardes; es la manana (aqui in California). Yo creo es el mejor siempre usar Decimal para moneda. Es Decimal menos efficaz? Tal vez, pero es vale la pena. Disculpeme por mi espanol bastante mala. — B. Clay Shannon-B. Crow Raven, Jan 28 '16 at 16:16
**"System.Decimal es matar un mosquito con un cañon"** - `Decimal` está pensado exactamente para este tipo de casos, yo diría mas bien es **matar una mosca con un matamoscas** — Carlos Muñoz, Jan 28 '16 at 16:53

score 1 · Answer 1 · edited Apr 13 '17 at 13:00

1

La respuesta a tu problema la puedes encontrar en este otro hilo.

Para evitar problemas con los redondeos lo más recomendable en .NET es usar el tipo Decimal.

edited Apr 13 '17 at 13:00

Comunidad

1

answered Jan 28 '16 at 16:22

eferion

49,291
5
30
72

score 1 · Answer 2 · answered Jan 28 '16 at 16:26

No es un error de framework sino tienes que ver con la precision decimal del tipo de datos

Si necesitas realizar un calculo y solo obtener una determinada precision en decimales usa el

Math.Round()

De esta forma al calculo le indicas la cantidad de decimales que necesitas

Dim result As Decimal = Math.Round(CDec(100.02-100), 2)

Problemas de cálculo con operaciones con números con decimales

2 Answers2