3
Matlab/옥타브에서 두 개의 숫자를 추가 할 때 일부 숫자가 손실됩니다.Matlab/옥타브 추가, 정밀도 손실 숫자
>>> 23.0 + 0.65850
ans = 23.659
23.65850은 어떻게 되나요?
A
답변
6
표시 목적으로 만입니다. 변경하려는 경우 format 명령을 살펴보십시오.
octave> 23 + 0.65850
ans = 23.659
octave> format free
octave> 23 + 0.65850
ans = 23.7
octave> format long g
octave> 23 + 0.65850
ans = 23.6585
help format를 살펴 보자하지만 기억한다. 정확도를 잃어버린
이 아니라입니다.
관련 문제
- 1. SQL 서버 2005 숫자 정밀도 손실
- 2. Oracle에서 숫자 열의 정밀도 변경
- 3. Ruby 단 정밀도 숫자
- 4. 숫자 정밀도 문제는 XML
- 5. as3 숫자 정밀도
- 6. Mathematica의 내부 숫자 형식과 정밀도
- 7. 자바 스크립트 정밀도 증가/감소 숫자
- 8. 현지화 형식 날짜 및 숫자 정밀도
- 9. numpy의 정밀도 : 숫자 비교시 문제가 발생합니다.
- 10. 오라클 - 정밀도 및 숫자 매개 변수의 축척
- 11. 부동 소수점 정밀도 : JDBC, double 및 DECIMAL, 손실 방지 방법?
- 12. 자바 - 하나의 더블 덧셈/뺄셈에서 최대 정밀도 손실
- 13. 단 정밀도 부동 소수점 표현에서 반 정밀도 부동 소수점으로 숫자 변환
- 14. qnorm/pnorm에 부동 소수점 정밀도 추가?
- 15. 숫자 뒤에 공백 추가
- 16. 숫자에 숫자 추가?
- 17. AVR 어셈블리에 숫자 추가
- 18. 안드로이드 추가 더블 숫자
- 19. mysql 열에 숫자 추가
- 20. 나누기 및 숫자 추가
- 21. 변수에 숫자 추가
- 22. SQL을 사용하여 숫자 추가
- 23. div에 숫자 시퀀스 추가
- 24. IEEE 단 정밀도 및 배정도로 표시된 총 숫자
- 25. 일부 부동 소수점 정밀도 및 숫자 제한 질문
- 26. 대략적인 e - 가능한 한 많은 정밀도 숫자 얻기
- 27. SAS의 날짜/시간 : 밀리 초에서 가장 높은 정밀도 숫자
- 28. 이중 정밀도 상실 C#
- 29. JavaScript Number는 임의의 정밀도 숫자입니까?
- 30. 손실
아, 네가 맞다고 생각해. (얼마나 오도 된) 고마워! –
계산 중에 반올림이 발생합니다 ... 표시되는 문자열만큼 좋습니다. –
@BenVoigt 네,하지만 그것은 double을 사용했을 때 나온 것입니다. 당신은 내가 무엇을 의미 하는지를 안다. – carandraug