작은 문제가있어 해결책을 찾을 수 없습니다! 내 코드 (이것은 단지 샘플 코드,하지만 내 원래의 코드는 다음과 같은 일을 할)입니다 :는 float x = [@"2.45" floatValue];
for(int i=0; i<100; i++)
x += 0.22;
NSLog(@"%f", x);
출력은 52.450001하지 52.450000입
나는 C#으로 작성된 프로그램을 가지고 있으며 일부는 네이티브 C/C++로 작성하고있다. 일부 값을 계산할 때는 double을 사용하고 너무 작은 정밀도 때문에 결과가 잘못된 경우가 있습니다. 몇 가지 조사 후 나는 누군가가 24 비트로 부동 소수점 정밀도를 설정하고 있다는 것을 알아 냈습니다. 내 코드는 정밀도를 적어도 53 비트 (_fpreset 또는
정밀 손실은 한 가지이지만 정밀 이득 ??? 그것은이 결과, 41.88694340165634 -87.60841369628906
내가이 붙여 SQL 서버 MGMT 스튜디오 테이블 뷰에 : 나는 꿈을 꾸고 41.886943401656339 -87.608413696289062
나는 다음과 같은 좌표/w 텍스트 파일이? 이것이 어떻게 가능한지? 메모장에서
는 특히 i386을 다른 CPU 아키텍처, MIPS (다른 코어의 커플), 파워 (E300, E500)에 상호 교환을 사용하여 (올바른 바이트 코스의 순서에 따라 조정)가 OK 네트워크를 두 번 부동 소수점 값을 보내하는 것입니다. 매우 오래된 하드웨어는 없습니다. gcc 4.2.1을 컴파일러로 사용하고 모든 아키텍처에 대해 -O를 사용합니다. (? 그 것
저는 Actionscript 3을 읽어야하는 바이너리 C/C++ 데이터 유형 (예 : C 플로트의 메모리 버전)이 있으며 처음부터 코드를 작성하지 않는 것이 좋습니다. 누구든지 라이브러리를 알고, 샘플 코드, 이것을 도울 의사 코드가 있습니까? 예를 들어 : C/C++ 앱 : float f = 1.1;
SaveFloatToFile(f, 'myfile.bi
Actionscript에서 부동 소수 (IEEE-754) Number 객체의 원시 바이트를 가져올 수 있습니까? 또는 기호 (1 비트), 가수 (52 비트) 및 지수 (11 비트)를 얻을 수 있으면 비트 시프트를 수행하고 원시 바이트 배열을 구성 할 수 있습니다. 특정 일련 화 상황에 대해 Number 값 (16 진수, 36 진수, 64 진수 등)의 정밀하
십진 초 전에 곱셈과 나눗셈을 사용하지 않고 더하기와 빼기 대신에 숫자 코드를 쓰는 것이 좋습니다. 좋은 예는 forward differences을 사용하여 다항식을 직접 계산하는 대신 다항식 곡선을 계산하는 것입니다. 여전히 그렇습니까? 아니면 현대의 컴퓨터 아키텍처가 *, /가 더 이상 +, -보다 몇 배 더 느리지 않습니다. 필자는 소프트웨어에서 FP