더북(TheBook)

지수는 emin e emax p를 만족하고 가수 부분의 비트 수를 정밀도(precision)라고 부른다. 따라서 부동 소수점 수를 공식으로 표현하면 다음과 같다.

여기서 p, emin, emax는 타입마다 다르므로 직접 숫자로 표현할 수 없고, DBL_MANT_DIG(대부분 p = 53), DBL_MIN_EXP(emin, 1021), DBL_MAX_EXP(emax, 1024) 등과 같은 매크로로 구한다.

예를 들어 s=-1, e=2, f1=1, f2=0, f3=1일 때, 값은 다음과 같다.

이 값은 십진수로 -0.15625다. 위 계산을 통해 부동 소수점 값은 항상 분모가 2의 거듭제곱인 분수로 표현할 수 있다는 것을 알 수 있다.Exs 17

이렇게 부동 소수점을 표현하는 중간 계산 과정에서 값이 잘릴 수 있다는 점을 반드시 명심해야 한다.

 

 


Exs 17 e > p인 표현 가능한 부동 소수점 값은 모두 2e–p의 곱임을 증명해 보자.

신간 소식 구독하기
뉴스레터에 가입하시고 이메일로 신간 소식을 받아 보세요.