2015-01-09 1 views
0

잘못된 : 190.040000000037000000엑셀 합 내가 Excel에서 이러한 숫자를 합계를

은 당신이 무엇입니까이 "37000000"(내 문제를 볼 희망 :

232.270000000000000000000 
252527.770000000000000000000 
126285.000000000000000000000 
-378856.000000000000000000000 
631426.000000000000000000000 
126285.000000000000000000000 
126285.000000000000000000000 
126287.000000000000000000000 
126285.000000000000000000000 
126285.000000000000000000000 
126285.000000000000000000000 
-1389137.000000000000000000000 

합 (즉 Sum(A1:A13)는 다음과 같은 결과를 제공 내 결과의 소수점 이하 자릿수)

답변

3

소수점 데이터 형식 대신 이중 데이터 형식을 사용하면 반올림 오류가 발생하므로 결과가 더 빨리 계산되지만 숫자가 많으면 정확도가 떨어집니다 십진수 이후 티. 이러한 오류를 피할 수있는 유일한 방법은 계산이 완료된 후 부동 소수점을 곱하고 다시 도입하여 부동 소수점을 제거하는 것입니다.

1

이 오류는 숫자로 .27.77 개로 표시됩니다. floating point accuracy problems의 결과입니다.

예를 들어 값 0.1, 0.01을 2 진수로 표시 할 수 없습니다. 24 비트 정밀도에서 실제 값 0.1은 0.100000001490116119384765625입니다.

귀하의 예에서도 마찬가지입니다.

+0

"귀하의 전화 번호가 .27과 .77이기 때문에"간단하지는 않습니다. 자체적으로는 충분하지 않습니다 (예 : 음수 값 중 하나 또는 둘 다 삭제). – pnuts