vb의 수학 계산

Question

VB에서 간단한 곱셈을 수행하려고합니다. 다음은

내 코드입니다 :

Dim minus As Integer 
Dim minusPrice As Integer 
Dim totalPrice As Integer 
     If quantity > 20 Then 
      minus = quantity - 20 
      minusPrice = ((minus) * (0.3)) 
      MsgBox("Minus " + minus.ToString) 
      MsgBox("minusPrice " + minusPrice.ToString) 

      totalPrice = 30 + minusPrice 
     End If 

그런데 왜 나에게주는 "minusPrice"0? "0.3"을 주어야합니다.

Answer 1

minusPrice를 정수로 선언 했으므로 결과가 반올림되었습니다. 필요에 따라

당신이 필요로 ...

Dim minusPrice As Decimal 
Dim totalPrice As Decimal 

또는 더블 ... 또는 플로트. 가격은 보통 10 진수입니다. 0.3 않는 한

minusPrice = ((minus) * (0.3m)) 

또한 작은 반올림 오류가 발생할 수 소수로 표현된다

--- 편집 --- 그냥 내가 중요한 부분을 놓친 것으로 나타났습니다.

Answer 2

minusPrice은 Integer으로 선언되며 소수점 앞에 부분 만 포함됩니다. 10 진수 값을 저장하려면 Decimal 유형을 사용해야합니다. totalPrice도 마찬가지입니다.

Dim minus As Integer 
Dim minusPrice As Decimal 
Dim totalPrice As Decimal 
If quantity > 20 Then 
    minus = quantity - 20 
    minusPrice = ((minus) * (0.3)) 
    MsgBox("Minus " + minus.ToString) 
    MsgBox("minusPrice " + minusPrice.ToString) 

    totalPrice = 30 + minusPrice 
End If 

Answer 3

dim minusprice as integer 

이 당신이 0.3를 곱했을 때 정수의 곱셈을하고 있다는 것을 의미한다. .3의 정수 부분은 0이므로 * 0 = 0입니다. 코드를로 변경하십시오. 당신이 Integer로 minusPrice를 선언함에 따라

dim minusprice as single 

Answer 4

, 그것은 분수를 포함 할 수 없습니다. 계산이 올바르게 수행되었지만 정수로 변환됩니다. 코드에서 무슨 일

는 실제로 :

minusPrice = CInt(CDbl(minus) * 0.3) 

당신이 Double 또는 대신 calcuation의 결과가 변환되지 않습니다 Decimal A와 minusPrice를 선언합니다.

유형 Double은 정규 부동 소수점 연산에 사용됩니다. 당신이 알고 있어야하는 정밀도의 고유 한 한계가 있지만, 이것을 가격 표시에만 사용한다면 충분합니다.

유형 Decimal은 고정 소수점 데이터 유형이므로 분수 값을 정확히 나타낼 수 있습니다. 이는 금전적 가치를 진지하게 파악해야 할 때 사용해야하는 사항입니다.