가장 가까운 부동 소수점 값을 계산

Question

가능한 중복 :

How to convert floats to human-readable fractions?

내가 부동 소수점 값이 0.595781 말을 한 나는 그 용도 몫를 사용하여 가능한 한에 가까운 좀하고 싶습니다 0 to 1023 (10-bits) 범위에서 제한되는 정수 분자 및 분모 값만.

직관적 인 방법

는 (적어도 시작하는) 0.555 상당히 가까운 일치 (오류가 0.040781입니다)를 제공 595/1000을 사용하는 것이 작업을 수행 할 수 있습니다.

그러나 더 일치하는 597/1002은 0.595808 (오류는 0.0000273입니다)입니다. 더 나은 경기도있을 수 있습니다. 나는 원래의 값에 가까운 분자 값과 분모 값을 쓸데없는 방식으로 사용하여 두 번째 몫으로왔다.

그런 다음 분자 및 분모 정수 값을 직접 가져 오는 모든 기준이 주어진 방법이 있는지 궁금합니다.

보레이트 발생기를 Infineon XE167G device으로 설정하는 데 궁금한 두 개의 정수 값이 필요한 경우.

모든 아이디어를 얻을 수 있습니다. 감사

Answer 1

당신이 16-bit 정수를 사용하는 경우, 당신은 단지 numerator = 59578을 가질 수와 분모는 예를 5를 들어, 10의 역률을 유지. 그래서 대답은 59578/(10^5)입니다.

이 방법을 사용하면 최소한 4 개의 정밀도를 유지해야합니다. 그냥 생각 ...