반응형 컴퓨터 마다 계산식이 다를떄1 xPlatfomr 계산 값이 잘못 됐거나, 컴퓨터 마다 계산식이 다를 때 10.95+1.95 를 계산하면 12.9 가 아닌 12.899999999999999 등으로 값이 이상하게 나오는 현상이 발생했다. 또한 컴퓨터마다 다른 결과값이 발생했다. 투비소프트에 문의해보니 아래와 같은 답변이 왔다. ===================================================================== 안녕하세요. 투비소프트 고객지원팀입니다. 문의하신 현상은 부동수숫점 오차로 인하여 발생되는 현상입니다. 소수점계산이 계산기와 다르게 나오는 이유는 부동소수점 오차에 의한 현상입니다. 이는 브라우저의 개발자 도구 console 창에 자바스크립트로 테스트를 하여도 동일한 결과가 나오게 됩니다. - 개요 : 현재 사용되는 거의 모든 CPU에서는 부동소숫점 자료형을 표현.. 2020. 6. 10. 이전 1 다음 반응형