금융 애플리케이션의 일부 기능을 연구 중입니다. 모든 숫자는 코드와 데이터베이스에서 반올림 오류없이 십진수로 표시됩니다. 그러나 일부 성능 문제가 있고 부동 소수점 수 (float/double)로 전환하는 것을 고려하고 있습니다. 이는 반올림 오류가 문제가되지 않는다는 가정에 기반합니다 (고객과 확인해야 함). 그러나이 전환을 수행하면 어림도없는 사실을 알
일부 "humanize_bytes()"코드에서 흥미로운 문제가 발생했습니다. 이 루프는 다른 모든 논리가없는 문제를 나타냅니다. 바이트가 "사람이 읽을 수있는"수준으로 잘린 경우 루프를 중지해야합니다. 최종 값이 1024 (또는 지정 가능한 바이트 크기) 미만이 될 때까지 계속 반복됩니다. 필자는이 기능이 1024 페타 바이트의 "1024.0 P"를 출력
나는 다음과 같은 형식으로 입력 문자열이 있습니다. 십진수에 대한 ","구분 기호가있는 국가 별 설정이 적용되도록 배포 할 서버입니다. 그러나 다른 프로덕션 서버는 "." 구분 기호. 이 문자열 값을 전달할 수있는 방법 : 12.34이 함수는 중단되지 않으며 그 지역 설정을 견딜 수 있도록 충분히 일반화되어 있습니까?
GPU에서 처리하기위한 부호없는 정수 배열로 무한히 정확한 정수를 나타냅니다. 디버깅 목적으로이 숫자 중 하나의 기본 10 표현을 인쇄하고 싶지만 그 주위에 머리를 감싸는 데 어려움이 있습니다. 다음과 같이하고 싶습니다. //the number 4*(2^32)^2+5*(2^32)^1+6*(2^32)^0
unsigned int aNumber[3] = {4,
DataGridView에서 10 진수 값을 표시해야합니다. 소수 자릿수 뒤에 주어진 숫자까지 값의 형식을 지정해야합니다. 문제는 셀 Value 속성이 제 경우에 10 진수를 참조하는 것입니다. decimal.ToString()이 호출되고 default decimal.ToString()이 호출되어 숫자가 많은 형식화되지 않은 문자열 이 생성됩니다. 한 가지