더북(TheBook)


4.41바이트 부동소수점의 표현 범위


우리가 설계한 1바이트 부동소수점으로 표현할 수 있는 가장 작은 수와 가장 큰 수는 다음과 같습니다.

표현할 수 있는 가장 작은 수(지수부가 0001일 때)

표현할 수 있는 가장 큰 수(지수부가 1110일 때)

1.000 × 2-6 = 0.015625

1.111 × 27 = 240


TIP 단, 지수부 비트가 모두 0일 때(2-7)와 모두 1일 때(28)는 0.0, 정규화 불가능, 무한대, NaN(Not a Number, 숫자가 아님) 같은 특별한 상황을 나타내므로 제외합니다.


1바이트지만 굉장히 작은 수부터 큰 수까지 폭넓게 표현할 수 있다는 것을 알 수 있습니다.

신간 소식 구독하기
뉴스레터에 가입하시고 이메일로 신간 소식을 받아 보세요.