mysql에서 float 정밀도 문제가 발생했습니다

Question

아래 예제를 통해 mySQL에서 FLOAT가 어떻게 작동하는지 설명 할 수 있습니까? 저는 플로트가 근사치라는 것을 압니다,하지만 실제로 그러한 차이가 있습니까? 그리고 9 자리 숫자 밖에 없기 때문에 오버플로 문제가 아닙니다. 그렇지 않습니까?

mysql> create table t(f FLOAT(15,2), db DOUBLE); 
mysql> insert into t(f,db) VALUES (512659663, 512659663); 
mysql> select * from t; 

+--------------+-----------+ 
| f   | db  | 
+--------------+-----------+ 
| 512659648.00 | 512659663 | 
+--------------+-----------+ 

(MySQL은 14.14 DISTRIB 5.1.44 버전, Win32에서 대한 (IA32) Windows XP에서)

Answer 1

FLOAT은 32이며, 이름에서 알 수 있듯이 부동 소수점입니다. 값이 높을수록 절대 정밀도는 낮아집니다.

512659648은 수십 개의 오류를 일으킬 정도로 큽니다. IEEE-754에서

Update:

(즉 FLOAT 인 기능), 데이터 비트 32에 저장되어 1는 로그인 8 비트 이진 지수 및 유효수 23 비트의 비트.

지수는 가장 가까운 최소 전력 지수 인 2 (귀하의 경우 28 또는 268435456)을 보여줍니다.

유효 숫자는 2 분수입니다. 정확도가 2^-23 인 1부터 2까지의 숫자를 저장할 수 있습니다. 귀하의 경우에는 1.11101000111010010000110 또는 ~ 1.9098060 (십진수 표기)입니다.

숫자는 지수와 유효 숫자의 곱으로 계산됩니다.

이 모든 것을 감안할 때, 해당 순서의 수에 대한 정확도는 2^(28 - 23) = 2^5 = 32입니다 (2^28에서 2^29).

Answer 2

사실, MySQL의에서, FLOAT 및 DOUBLE 모두 대략적인 부동 소수점 숫자입니다.

MySQL uses four bytes for single-precision values and eight bytes for double-precision values. 그래서, 모두 열은 대략입니다 - 그것은 당신의 FLOAT 컬럼은 번호를 대략하려고 4 바이트를 얻을 단지입니다.

Answer 3

단 정밀도 부동 소수점의 가수는 길이가 22 비트입니다. 따라서 2^22, 4194304보다 큰 정수를 정확하게 저장할 수 없습니다.