기울기 계산의 정확성을 향상시킬 수있는 방법이 있는지 알고 싶습니다. (이것은 몇 달 전까지 here으로 나타났습니다).부동 소수점 방정식을 다시 적용
이 변경 보인다
float get_slope(float dXa, float dXb, float dYa, float dYb) {
return (dXa - dXb)/(dYa - dYb);
}
float get_slope(float dXa, float dXb, float dYa, float dYb) {
return dXa/(dYa - dYb) - dXb/(dYa - dYb);
}
에 개선 될 수 있습니다. 제안?
편집 : 정확도, 효율성이 아닙니다.
어떤 언어를 사용하고 있습니까? –
C. 그러나 나는 그것이 사람들의 반응을 어떻게 받아 들일지 궁금합니다. – Jamie
옆 : 부동 소수점 숫자는 정말 이상합니다. 0에 가까울수록 정확도가 높아집니다. 즉, [0.9.1] 범위보다 [0,0.1] 범위에서 더 많은 값을 나타낼 수 있습니다. 대부분의 프로세서는 0에 가까운 "비정규 모드"모드로 전환됩니다. 한동안 인텔 칩 중 일부는 신호 처리 애플 리케이션 (특히 LP 필터)에 등장한 비정규 화일 (denormal spikes)과 디지털 처리를 위해 AMD에 권장하는 비정상 처리를 처리하는 데 너무 많은 시간이 걸렸다. 사람들은 실제로 속도가 느린 곳을 대상으로 0에 가까운 소량의 소음을 추가했습니다. – Nosredna