실제 및 부동 소수점 수의 소수점 길이와 정확성

Question

는 이해 float and real are 그 : 숫자 데이터 부동 소수점에 사용

대략 번호 데이터 형식. 부동 소수점 데이터는 근사값입니다. 따라서 의 모든 값이 데이터 유형 범위를 정확하게 나타낼 수있는 것은 아닙니다.

그러나, 다음 예 :

Q1 : '플로트 (24)' 이유 (즉, 실시간)의 더 소수 보다 제공 '플로트 (53) ' 아직 정확도가 낮습니까?

Q2 : 그것은 반올림하지 않고 그대로가 어떻게 숫자 필드에 @s를 저장합니까?

declare @s varchar(50) = '34.770438199999944' 
select convert(float(24), @s) real_, convert(float(53), @s) float_ 

Results는

|    real_ |  float_ | 
------------------------------------ 
| 34.77043(9147949) | 34.77043(82) | 

Answer 1

Q1을 (브래킷은 diff 더 명확하게 할 수 있습니다). 그것은 단지 디스플레이 문제 일뿐입니다. 다른 숫자는 다를 수 있습니다. 더 잘 맞을 곳이 둥글게됩니다 (숫자의 실제 근사치에 더 가깝습니다). 숫자를 저장할 데이터가 적기 때문에 정확도가 떨어집니다.

Q2. mssql (태그 state sql-server)에서 십진수를 만들 수 있으며, 정밀도 손실없이 숫자를 저장합니다. 하지만 저장할 수있는 전화 번호는 제한되어 있습니다.