2014-02-20 3 views
0

스케일링 된 정수가 들어있는 데이터베이스가 있는데, 가장 긴 숫자는 10 자리입니다. Excel에서 10 진수 값으로 변환하려고합니다. 소수점을 4 자리 숫자만큼 왼쪽으로 이동합니다 (예 : 10000으로 나눕니다.).유효 숫자 제한이있는 경우 Excel에서 반올림 오류가 발생합니까?

현재 이러한 정수는 현재 15 자리 숫자로 제한되어 있으므로 그대로 유지됩니다. 반올림 오류가 발생할 수 있습니까?

+1

예. http://www.cs.berkeley.edu/~wkahan/Mindless.pdf –

+0

에있는 "2 장"찾을 수없는 오류 "를 참조하십시오.이 기사에서는 Excel에서 복잡하고 복잡한 산술 연산을 다룹니다. 내가하려고하는 부분은 무분별하다. 10,000으로 나누면 2 진수 분할이 가능합니까? 안됩니다. – toolshed

+0

10000으로 나누려고하는 모든 정수가 10000의 배수라고 말하고 있습니까? 그렇다면 질문을 명확히해야하며 정확한 결과를 기대할 수 있습니다. –

답변

0

반올림 오류가 발생할 수 있습니까?

엄밀히 말하면 나는 그렇다고 생각합니다. 예를 들어

SO21916134 example

하지만 상당한 수있다하는 바와 같이 차이가 있다는 것이다 (모두 동일한 포맷은, 식에 의해 생성 된 작은 검은 사람이 바로 위의 이들의 차이에 의해 붉은 색)는 인 10 진수 10 진수, 그래서 잘하면 문제가되지 않습니다.