floating-point

0열

1답변

numpy가 객체를 float으로 받아들이도록 강요하는 방법은 무엇입니까?

지금 당장 numpy는 dtype = 'float'일 때 객체를 공급하려고하면 오류가 발생합니다. 그러나 float도 객체입니다. 나는 물체를 부유물처럼 취급하도록 어떻게 할 수 있습니까? 편집 : 곱하기 및 덧셈시 부동 소수점을 반환하는 객체가 있습니다. 선형 변환 후에는 float으로 처리되므로이를 float로 처리하려고합니다. 그래서 내 목적 : Cl

0열

1답변

시스템이

부동 소수점 수에 대한 다음의 표현 가정 나타낼 수있는 최소 및 최대 양의 부동 소수점 수 찾기 : 1 부호 비트 4 비트 지수 4 비트를위한 (7)의 바이어스 유효 치 지수 (NO IEEE에서 같은 일이 함축된다) 이 정보를 감안할 때 , 어떻게 내가 가장 크고 작은 긍정적 인 floa을 찾을 것입니다 이 시스템이 지원할 수있는 팅 포인트 번호 (바이너리

2열

1답변

2 바이트가 하나의 Uint16을 어디에서나 만들지 만 Javascript에서는 그렇지 않습니다.

나는 높이 맵 뷰어를 만들 Three.JS을 사용하고 배경입니다. 높이 맵의 높이 포인트의 데이터는 UInt16이며, 이는 2 바이트임을 의미합니다. 은 내가 PNG 파일의 픽셀 단위로 R로 두 바이트 G 값을 저장 한 다음 내 Three.JS 높이 맵 뷰어로 사진을 전송하고 정점에게 PlaneGeometry의 Y 위치를 조작 할 수 있습니다. 문제 나는

4열

1답변

Wfloat-equal 옵션을 사용하여 부동 소수점을 1 또는 0으로 비교

저는 코드에서 부동 소수점 동일성 비교를 수행하는 것과 관련된 문제에 다소 익숙합니다. 은 현재 내가 에 컴파일하고있어 코드베이스 (GCC를 연타)은 다음과 같은 옵션을 사용할 수 있습니다 : : -Wfloat - 동일 그리고 코드베이스에서 다음 예제 비교가있다 다음과 같이 template <typename FloatType> void foo(FloatT

0열

1답변

MongoDB 부동 소수점 값의 정밀도?

아시다시피 JavaScript는 IEEE 754 부동 소수점을 사용하여 실수를 처리합니다. 그것을 사용하는 경우 문제는 매우 일반적인 문제입니다, 발생 : 0.1 + 0.2 = 0.30000000000000004 'big.js'와 같은 모듈을 사용하여, 대부분의 시간,하지만 사용할 때 문제는 MongoDB. :이 문서에서 봐 { "_id": ObjectId

0열

1답변

CSV 가져 오기 SQL float가 int로 죽임

SSIS 지원을 사용하는 경우에도 SQL Server에 CSV 파일을 가져올 때 문제가 발생합니다. 내 CSV 파일에는 다른 제품들 중에 123.45와 같은 부동 소수점으로 저장된 제품 가격이 있습니다. 이 테이블을 내 테이블로 가져 오려고 할 때 (또는 전체 csv를 새 테이블로 가져 오는 경우에도) float은 int로 종료됩니다. 만약 내가 float

0열

2답변

b '\ xc8 \ x00'을 (를) 플로트로 변환하는 방법?

실제로 온도 센서에서 값 (b'\xc8\x00')이 표시됩니다. float 값으로 변환하고 싶습니다. 그것은 맞습니까? 해독 할 필요가 있습니까? 여기 내 기능입니다 : def ToFloat(data): s = data.decode('utf-8') print(s) return s 하지만 컴파일 할 때, 나는 오류 얻을 : 'u

0열

1답변

cython - 문자열을 정수 및 부동 소수점으로 변환

Cython에서 행별로 읽은 데이터 세트가 있습니다. 각 행은 문자열로 반환됩니다. 내가 뭘하고 싶은 건 문자열을 각 행의 열의 수와 같은 길이의 정수 (ints와 floats) 배열로 변환하는 것입니다 (';'로 표시). import pandas as pd import numpy as np df = pd.DataFrame(np.c_[np.random

1열

1답변

Verilog 코드 오류 : 범위는 상수 식으로 제한되어야합니다.

표준 양식 (64 비트 숫자의 경우 IEEE 754 부동 소수점 표준)으로 제공해야하는 52 비트 승수에 대한 코드를 작성했습니다. 그래서 나중에 나는 얼마나 많은 비트가 64를 초과했는지를 검사하고 있습니다. 그래서 그 수를 지수로 넣을 것입니다. module mul1(output reg [103:0] p, output reg [51:0] c,

0열

1답변

잘못된 계산

C#에서 (0.406 * 10000.0) 반환 4060.0000000000005 대신 4060.0이 내가 더 확인하는 기능을 쓴 이유는 . 십진수는 double 값으로, 아래는 내가 사용하고있는 코드입니다. d is 0.406의 가치와 n is 4의 가치와 기능이 true 대신 false 내가 다른 솔루션을 사용하여 열어주는 말들 반환 할 때 위의 문장에서