System.Decimal 라운드 지정

Question

누구나 내가 왜 다음 결과를 얻고 있는지 설명 할 수 있습니까?

Dim badDecimal As Decimal = 54.50327999999999 
Dim expectedDecimal As Decimal = CDec("54.50327999999999") 

badDecimal = 54.50328D, expectedDecimal = 54.50327999999999D있다. 나의 이해는 badDecimal이 expectedDecimal 값을 포함해야한다는 것이다 (expectedDecimal이 올바른 값을 담을 수 있다는 사실은 Decimal 타입이 값을 유지하는 정밀도를 가짐을 의미한다).

미리 도움을 주셔서 감사합니다.

Answer 1

이 페이지에 따르면 Decimal Data Type (Visual Basic), 그렇지 않으면 컴파일러가 Integer, Long, Double 등과 같은 적절한하지만 서로 다른 숫자 형식으로 컴파일하려고합니다, 대문자 문자 D와 소수점 리터럴 값을 접미사 필요 . 사용되는 상수 값에 따라. 귀하의 경우에는

이 코드는 기본적으로 컴파일러에 다음과 같습니다 따라서

Dim badDecimal As Decimal = (constant of type System.Double) 

그리고 이미 컴파일시 상수 값의 정밀도를 잃었다.

단순히이에 코드를 변경합니다

Dim badDecimal As Decimal = 54.50327999999999D 
              ^
              +-- add this 

및 예상대로 작동합니다.

그러나 두 변수가 동일하다고 생각하면 지치지 만 StackOverflow에 부동 소수점 유형의 "문제"에 관한 충분한 질문이있어 최소한 N 번째 십진수로 사소한 차이가 있음을 알려줍니다. , 디스플레이 나 디버거에는 적합하지 않을 정도로 작지만 두 변수를 서로 다르게 비교할 수있을만큼 충분히 작습니다.

비교할 생각이라면 일반적인 방법은 다른 하나의 값을 빼서 절대 값을 취한 다음이를 작은 값과 비교하여 " 그러나 더 크지는 않다. "

즉. 같은 :

대신이의

If Math.Abs(badDecimal - expectedDecimal) < 0.000001 Then 

는 :

If badDecimal = expectedDecimal Then