precision

1열

1답변

긴 정수가있는 큰 숫자 사이의 구분 : float 변환을 우회하는 방법?

코드에서와 같이 나는 매우 많은 수의 비율을 계산해야 : import scipy.special x=2000 n=range(8,x+1) q=[] for i in range(0,len(n)): q.append(((n[i]-6)*26**(n[i]-7)-scipy.special.binom(n[i]//7+n[i]%7,n[i]//7))*(26**

0열

2답변

numpy set_printoptions 정밀도가 튜플 목록에서 무시되었습니다.

(Windows 7, Python 3.4.5, Anaconda 2.2.0 (64 비트), 기본값 : Jul 5 2016, 14:53:07) [MSC v.1600 64 비트 (AMD64)]) 내가 깔끔하게 np.set_printoptions (정밀도를 사용하여 일부 데이터를 인쇄하려고했다 = 왜 무시 보인다 import numpy as np np.set_p

0열

1답변

처리 날짜 시간 정밀도> 6 비약

에 내 코드에서이 기능이 있습니다 defp to_date({year, month, day}), do: NaiveDateTime.from_erl!({{year, month, day}, {0, 0, 0}}, {0, 6}) |> NaiveDateTime.to_string() defp to_date({{year, month, day}, {hour, min

0열

1답변

루프백 수 정밀도

postgresql에 loopback을 사용하고 있습니다. 필드에 amount이 Number으로 사용되고 있습니다. 이제 프로젝트의 중간 단계에서 새로운 요구 사항이 amount 값으로 정밀하게 보급되었습니다. 하지만 예를 들어 amount을 저장할 수 없습니다. 1.50으로 변환되고 1.5으로 저장되므로 자바 스크립트 숫자 유형 값과 함께 발생합니다. 정

0열

1답변

Precision Matlab and Python (numpy)

저는 Matlab 스크립트를 파이썬으로 변환하고 있습니다. 10 ** - 4 순서로 다른 결과를 얻고 있습니다. f_mean=f_mean+nanmean(f); f = f - nanmean(f); f_t = gradient(f); f_tt = gradient(f_t); if n_loop==1 theta = atan2(sum(f.*f_tt)

4열

3답변

.NET datetime 문자열에서 datetime으로 변환 할 때 밀리 초 정밀도 문제

안녕하세요. 문자열 형식으로 우리 시스템에 들어오는 datetime 값을 변환하려고합니다. 밀리 초의 정밀도가 7보다 높으면 .NET에서 datetime 파싱이 값을 좋아하지 않는 것으로 보이고 값을 변환/파싱 할 수없는 것으로 보입니다. 나는 이것을 위해 무엇을해야 할 것인가에 조금 얽혀 있나? 내 현재 생각은 밀리 초 크기에 한계가 있고 더 이상 정밀도

1열

1답변

python-nest를 사용할 때의 온도 값의 정확성

새로운 자동 온도 조절기 (회전 3)에서 데이터를 플롯하도록 설정하려고합니다. nest-python api package forked and enhanced by jkoelker을 찾았습니다. 나는 가능한 한 정확한 데이터를 원한다. 내 서모 스탯의 데이터를보고했지만, 그 값은 항상 "XX.0"과 같이 10 진수 10 번째 값이있는 정수입니다. 예를 들어

3열

1답변

ftFmtBcd로 정밀도를 잃지 않으려면 어떻게해야합니까?

documentation는 말한다 : TFMTBCDField 바이너리 코딩 진수 (BCD) 분야에 공통 기본 동작을 캡슐화합니다. BCD 값은 부동 소수점 수보다 더 높은 정밀도와 정확도를 제공합니다. BCD 필드는 주로 화폐 값을 저장하고 조작하는 데 사용됩니다. 불행히도, 난, 내가 (이 예에서는 두 자리) 정밀도를 잃고 Extended 값과 함께 이러

4열

3답변

부동 소수점의 부정확성 피하기

부동 소수점과 관련된 문제를 완전히 이해하고 있지만 설명 할 수없는 매우 흥미로운 동작을 보았습니다. float x = 1028.25478; long int y = 102825478; float z = y/(float)100000.0; printf("x = %f ", x); printf("z = %f",z); 출력은 : X = 1028.25476

1열

4답변

C++ 엡실론을 사용하는 복식의 비교

What is the most effective way for float and double comparison?에서 제안 된 것처럼 엡실론을 사용하는 복식의 비교 함수를 정의했습니다. 절대 값의 차이가 ε보다 작 으면 두 개의 double이 다릅니다. d2 = d1 + epsilon 인 d1과 d2를 두 배로 사용하면 d1은 ε만큼 다르기 때문에 d2는