floating-point

4열

5답변

입니다. C로 작성된 코드는 16 비트 마이크로 컨트롤러 용입니다. 이 코드는 본질적으로 많은 부동 소수점 연산을 수행합니다. 결과가 양수일 때까지 산술 연산이 제대로 작동하지만 뺄셈의 경우 예상 결과가 음수이면 0이됩니다. result = 0.005 - 0.001; Is correctly computed as 0.004 result = 0.001 -

10열

3답변

Haskell에서 Float을 Int로 변환합니다.

저는 여전히 새롭고 함수에서 사용하기 위해 목록을 만들려고하고 가능한 한 작게 유지하려고합니다.이 경우 logBase x y가됩니다. 하지만이 목록에서 사용할 수있는 logBase를 가져 오는 데 문제가 있습니다. [1 .. (logBase의 x 및 y)] 상관 제안?

3열

1답변

정보를 잃지 않고 정수 범위를 절반으로 "축소"할 수있는 이유는 무엇입니까?

나는 a paper on lossless compression of floating point numbers을 이해하려고 노력하고 있는데 저자가 특정 범위의 부호있는 정수를 절반 크기의 범위로 매핑하여 필요한 정보를 잃어 버리는 특정 단계를 고수하려고합니다. 필자는 저자가 설명하기가 쉽지 않은 독자에게 너무나 명백한 몇 가지 표준 기술을 사용하고 있지만 완

2열

3답변

C++ 부동 소수점 문제

#include <iostream> using namespace std; int main() { float s; s = 10/3; cout << s << endl; cout.precision(4); cout << s << endl; return 0; } 왜 출력이 3.333을 나타

0열

4답변

항상 어떻게 든 내 대답은 다를 것이다 <p></p> 내가 C로 코딩 힘든 시간을했다 ... 부동 소수점 숫자

내가 구글 코드 잼에 내 손을 시도하고 있었다 두 번 값을 사용하는 문제가 있었다 다루기 어떤 경우에는 실제 답변이 ... 내가 알고 싶었던 것은 언어가 최고의 부동 소수점 구현 및 처리 기능을 갖고 있다는 것입니다. 이 현상은 여러 번 일어 났으며 나는 수족관을 잘 다루는 언어로 전환 할 때가되었다고 생각합니다. 어떤 아이디어?

3열

7답변

math.h 만 사용하여 double을 string으로 변환하려면 어떻게해야합니까?

이중 NT를 네이티브 NT 응용 프로그램 즉, ntdll.dll에만 의존하는 응용 프로그램에서 문자열로 변환하려고합니다. 불행히도 ntdll의 vsnprintf 버전은 %f 등을 지원하지 않으므로 혼자서 변환을 구현해야합니다. math.h 기능 중 일부만 전술 ntdll.dll 수출 (floor, ceil, log, pow, ...). 그러나 필요한 경우

13열

4답변

왜 충돌하지 않습니까? 내가 여기서 0으로 나눈 적 없니?

는 내가 영으로 나누기 오류를 얻을하지 않습니다 CGPoint p1 = CGPointMake(0, 10); CGPoint p2 = CGPointMake(0, 10); float sxy = slopeXY(p1, p2); , 나는 그것을 제로 크기의 라인을 제공하는 경우 두 지점 float slopeXY(CGPoint p1, CGPoint p2) {

6열

6답변

루비에서의 산술

왜이 코드 7.30 - 7.20이 루비에서 0.0999999999999996이 아닌 0.10을 반환합니까? 예를 들어, 내가 7.30 - 7.16이라고 쓰면, 모든 것이 잘 될 것이고, 0.14을 얻을 것입니다. 무엇이 문제이며 어떻게 해결할 수 있습니까?

4열

2답변

빠른 지수 : real^real (C++ MinGW, Code :: Blocks)

특정 블록에서 3 * 500 * 500 주위의 실수를 지수화해야하는 응용 프로그램을 작성하고 있습니다. exp (y * log (x)) 알고리즘을 사용할 때 프로그램이 눈에 띄게 지연됩니다. 데이터 유형을 가지고 놀면서 다른 알고리즘을 사용하면 속도가 훨씬 빠르지 만 그 알고리즘은 정확하지는 않지만 시뮬레이션 결과는 좋지만 속도면에서 완벽하지는 않습니다.

0열

2답변

iPhone에서 가장 빠른 float 변환은 무엇입니까?

일부 Int16 및 Int32를 변환 한 다음 다시 변환합니다. 난 그냥 (어떤 자사에 대해 어떤 추측? :)) 직선 캐스트를 사용하지만, 초당이 44100 번하고 있어요 이 캐스트 효율적인가요? 더 빨리 끝낼 수 있습니까? P. 엄지 손가락 컴파일이 해제되어 있습니다.