18-1-라.부동 소수점

실수는 소수점 이하의 수를 가지기 때문에 정수에 비해 훨씬 더 복잡하다. 이런 복잡한 실수를 비트의 세계에서 어떻게 표현할 수 있을지 생각해 보자. 실수는 부호, 정수부, 소수부로 구성되므로 각 요소에 적당량의 비트를 할당하는 단순한 방법을 우선 생각해 볼 수 있다. 실수 -3.14는 음수 부호와 정수부 3, 소수부 .14로 구성되므로 이 셋을 각각의 비트에 저장하는 방식이다. 다음은 32비트 길이로 실수를 표현하는 약속의 한 예이다.

32비트를 잘라 부호에 1비트, 정수부에 15비트, 소수부에 16비트를 할당했다. 이 구조로 일단 실수를 표현할 수는 있지만 정수부와 소수부의 자리수가 그다지 크지 않기 때문에 표현 범위가 넓지 못하다. 정수부의 최대 절대값은 기껏해야 32767밖에 안되어 실생활에 사용되는 수를 표현하기에는 턱도 없이 부족하며 소수부도 65535이상을 표현할 수 없으므로 정밀도가 10진수로 소수점 이하 다섯 자리도 안된다.

이 정도 범위와 정밀도를 가지고는 정밀한 과학, 공학용 프로그램은 물론이고 간단한 성적 처리 프로그램에도 부적합하다. 32비트가 아닌 64비트로 길이를 늘린다면 이보다 더 크고 정밀한 수를 표현할 수 있겠지만 이 역시도 충분한 크기와 정밀도를 제공하지는 못한다. 천문학이나 설계, 회계 등의 분야에서는 조 단위의 수를 다루어야 하고 소수점 이하 수십자리까지 정밀하게 표현할 수 있어야 한다.

실수를 정수부와 소수부로 분할하여 표현하는 방식은 단순하기는 하지만 전혀 치밀하지 못하고 효율적이지도 않아 질적으로 다른 방법을 필요로 하는데 그 방식이 바로 부동 소수점 방식이다. 실수는 정수부와 소수부로 구성되어 있지만 다음과 같이 가수와 지수로도 표현할 수 있다. 비트의 세계는 2진수만 쓰지만 설명의 편의상 실생활에서 사용하는 10진수를 예로 든다.

고정 소수점 방식	부동 소수점 방식
123.456	1.2345 * 10^2
0.0123	1.23 * 10^-2
1.2345	1.2345 * 10^0

가수는 실수의 실제값을 표현하며 지수는 크기를 표현하여 가수의 어디쯤에 소수점이 있는지를 나타낸다. 지수의 값에 따라 소수점이 움직이기 때문에 이 방식으로 실수를 표현하는 방법을 부동(浮動) 소수점이라고 한다. 부동 소수점 표현 방식은 C언어뿐만 아니라 모든 프로그래밍 언어, 그래픽, 공학 프로그램 등이 준수하는 국제 표준(IEEE-754)으로 지정되어 있다. 다음은 32비트 실수형인 float형의 비트 구성이다.

부호는 음 아니면 양이므로 1비트만 있으면 되고 지수부 8비트, 가수부 23비트로 구성되어 있다. 가수부가 길기 때문에 정밀도가 비교적 충분하고 지수부가 따로 있으므로 10³⁸정도의 큰 수까지 표현할 수 있다. 물론 정밀도가 무한하지는 않기 때문에 수학에서의 실수처럼 소수점 이하 무한대까지를 기억하지는 못한다. 부동 소수점 방식은 한가지 큰 문제점이 있는데 같은 수를 표현하는 지수와 가수의 조합이 여러 벌 나올 수 있다는 점이다. 예를 들어 다음 수식들은 모두 12.345라는 실수값을 표현한다.

12.345*10⁰, 1.2345*10¹, 0.12345*10², 123.45*10^-1, 1234.5*10^-2

같은 수를 표현하는 똑같은 방법이 여럿 존재하게 되면 두 변수의 상등 비교 연산을 하기가 까다로와진다. 그래서 한 수를 표현하는 방법은 하나만 존재하도록 정규화(Normalization)를 할 필요가 있는데 가수의 정수부를 한자리로 제한하면 12.345는 1.2345*10¹만 가능해진다. 즉, a.bcd*10ⁿ 식으로 소수점이 항상 가수의 첫 번째와 두 번째 사이에 있도록 하는 것이다.

이상은 10진수를 기준으로 한 부동 소수점 표현 방식인데 직관적인 이해를 위해 10의 거듭승을 사용했다. 실제 컴퓨터는 2의 거듭승으로 지수를 표현하고 가수도 이진수이므로 가수가 1~2사이의 수로 제한되어 가수는 항상 1.~~~~의 형태를 띠게 된다. 실수를 구성하는 각 요소가 어떻게 구성되고 해석되는지 요소별로 알아보자.

■ 부호 : 부호는 음수 또는 양수 둘 중의 하나이므로 1비트만 있으면 된다. 0이 양수이고 1이 음수이다. 이 부호는 실수 자체의 부호만을 나타내며 지수의 부호는 아니다.

■ 지수 : 지수를 n이라고 했을 때 가수부에 2ⁿ이 곱해진다. 음수 지수도 표현해야 하므로 지수는 자체에 부호를 따로 가져야 하는데 이때는 부호 비트를 따로 쓰지 않고 127의 바이어스를 적용한다. 지수의 길이는 8비트이므로 0~255까지의 범위를 가지며 바이어스 127을 적용하면 지수의 표현 범위는 -127~128까지이다. 최소 지수 -127과 최대 지수 128은 0과 무한대를 표현하는 특별한 용도로 예약되어 있다. 그래서 float형의 최대 표현 범위는 2¹²⁷이며 대략 10³⁸이 된다.

■ 가수 : 23개의 비트로 구성되어 있으며 각 자리수에 2의 음수 거듭승으로 가중치가 부여되어 있다. 정규화 규칙에 의해 가수는 항상 이진수 1~2사이(1.~~~)여야 하며 이 규칙을 만족하기 위해 제일 왼쪽 비트(2⁰자리)는 항상 1이라고 가정한다. 이 비트를 별도로 저장하지 않는 대신 정밀도는 2배 더 높아진다.

가수의 제일 왼쪽 비트부터 1/2, 1/4, 1/8, 1/16의 가중치를 가지는 셈이며 이 비트들로부터 계산된 값에 1(2⁰)을 더하면 실제 가수가 된다. 다음 실수는 십진수로 어떤 수인지 계산해 보자.

0 01111101 10000000000000000000000

부호가 0이므로 이 값은 일단 양수이다. 지수는 125인데 바이어스 127을 빼면 -2이다. 가수는 생략된 1과 첫 번째 비트의 가중치 1/2를 더하면 3/2이 된다. 가수의 제일 왼쪽에 1이 생략되어 있다고 볼 수 있으므로 실제 가수는 (1100000~)이다. 그래서 이 값은 다음과 같이 십진수로 바꿀 수 있다.

3/2 * 2^-2 = 3/2 * 1/4 = 3/8 = 0.375

모든 것이 2진수로 계산되고 바이어스, 정규화를 위한 생략치 등을 고려해서 계산해야 하므로 사람이 직접 부동 소수점 비트를 해석해서 10진수로 값을 알아내는 것은 무척이나 어렵고 복잡하다. 하지만 2진수를 잘 다루는 컴퓨터에게는 그다지 어렵지 않은 일일 것이다. 다음 예제는 부동 소수점 수의 비트 구조를 덤프해서 출력하는데 이 예제로 다양한 실수값을 분석해 보면서 float형의 구조를 연구해 보기 바란다.

예 제 : PrintFloat

#include <Turboc.h>

void printfloat(float f)

{

unsigned t;

char temp[35],bin[35];

// 비트를 다루기 쉽도록 정수형 변수에 대입한다.

t=*(unsigned *)&f;

// 선행 제로를 포함한 32자리의 2진수 문자열로 변환

itoa(t,bin,2);

memset(temp,'0',35);

strcpy(temp+32-strlen(bin),bin);

// 부호, 지수 다음에 공백을 하나씩 넣음

bin[0]=temp[0];

bin[1]=' ';

strncpy(bin+2,temp+1,8);

bin[10]=' ';

strcpy(bin+11,temp+9);

printf("실수=%f(%s), ",f,bin);

// 지수 출력

printf("지수부 = %d\n",(t >> 23 & 0xff) - 127);

}

void main()

{

printfloat(0.375f);

printfloat(3.14f);

printfloat(-0.5f);

printfloat(0.1f);

}

부동 소수점의 각 비트를 요소별로 잘라 문자열로 조립해서 화면으로 출력하는데 길지는 않지만 비트 조작문이 다소 어려워 보일 것이다. 이 절의 주제는 실수 타입의 내부 구조이므로 PrintFloat 함수에 대한 분석은 따로 하지 않기로 한다. 비트와 문자열을 섬세하게 다루는 절묘한 꽁수를 구경할 수 있으므로 한가할 때 분석해 보아라. 실행 결과는 다음과 같다.

실수=0.375000(0 01111101 10000000000000000000000), 지수부 = -2

실수=3.140000(0 10000000 10010001111010111000011), 지수부 = 1

실수=-0.500000(1 01111110 00000000000000000000000), 지수부 = -1

실수=0.100000(0 01111011 10011001100110011001101), 지수부 = -4

이 결과에서 보다시피 부동 소수점은 10진수를 정확하게 표현하지 못하는데 0.1이라는 간단한 10진수를 2진수로 표현했을 때 굉장히 복잡한 비트열이 나온다. 근본적으로 2진수와 10진수의 수체계가 다르기 때문이다. 2진 가수부의 각 자리수는 이전 자리수의 절반만큼인데 정확한 10진수를 표현할 수 있을 때까지 절반씩 더해 나간다. 그래도 원하는 10진수에 꼭 맞는 수가 잘 안 만들어지며 그러다 보면 아주 낮은 자리까지 더하기를 계속 반복해야 한다. 다음 코드를 실행해 보자.

float f=0.1f;

printf("%.10f",f);

0.1을 소수점 이하 10자리까지 출력하면 0.1000000015라는 값이 나오는데 2의 음수 거듭승으로 십진수 0.1을 정확하게 표현하지 못하므로 가장 근접한 수를 유효자리 범위에서 표현한 것이다. 사실 이 정도의 오차라면 거의 무시해도 될 정도의 경미한 값이다. 그러나 이런 경미한 값이 모이면 오차가 점점 커진다. 다음 예제를 실행해 보자.

예 제 : FloatError

#include <Turboc.h>

void main()

{

float d=0.0f;

int i;

for (i=0;i<1000;i++) {

d+=0.1f;

}

printf("%f",d);

}

0.1을 1000번 더했으므로 100.0이 되어야 하는데 실제로 실행해 보면 99.999046이 된다. 작은 오차들이 누적되다보면 이 오차들이 모여서 원하는 값과 점점 더 멀어진다. 반복 회수를 10000으로 늘리면 999.902893이 되고 100000으로 늘리면 9998.556641이 된다. 오차의 누적회수가 많을수록 문제가 점점 심각해지는 것이다. 물론 0.1f*1000을 바로 계산하면 정확하게 100.0이 계산된다.

실수는 비록 작기는 하지만 항상 어느 정도의 오차가 있다. 그러나 이런 미세한 오차가 실제 프로그램에서 말썽을 일으키는 경우는 거의 없는데 왜냐하면 연산 결과에 영향을 줄만큼 크지 않기 때문이다. 설사 정밀도를 요하는 과학 계산이라 해도 말이다. 그러나 항상 오차가 발생할 수 있다는 점은 주의해야 하는데 예를 들어 실수끼리 상등 비교 연산을 해서는 안된다. 위 예제에서 루프를 실행한 후 if (d == 100.0) 이라고 비교하면 항상 거짓으로 평가되는데 아무리 비슷한 값이라도 비트열은 분명히 다르기 때문이다. 상등 비교 연산을 하는 대신 if (abs(d-100.0) < 0.01) 이런 식으로 부등 비교하여 차이가 오차 범위안이라면 같은 수로 봐야 한다. 실수 자체를 많이 쓰지 않으므로 비교할 일도 별로 없겠지만 혹시 있다면 주의를 할 필요가 있다.

부동 소수점 타입에 대한 또 다른 주의 사항은 범위와 정밀도가 다르다는 것이다. float형이 10³⁸까지 표현할 수 있다고 해서 10진수 38자리수를 정확하게 기억할 수 있다는 얘기는 아니다. 지수의 범위가 10진수로 38자리 정도 된다는 것이지 가수의 정밀도는 기껏해야 10진수로 7자리 정도밖에 되지 않는다.

float f=123456789.123456789f;

이 선언문은 float형 변수에 긴 실수를 대입하는데 실제 이 변수에 기억되는 값은 123456792.0이다. 8자리 이상의 값은 반올림되어 잘려 나가므로 원하는 바와 다른 오차가 발생한다. 이런 경우는 가수부가 충분히 큰 double형을 사용해야 한다. double형은 십진수로 15자리까지 유효하다. 다음 예제를 보자.

예 제 : FloatError2

#include <Turboc.h>

void main()

{

float f1,f2,f3;

f1=123456.0f;

f2=0.0001f;

f3=f1+f2;

printf("f1=%f\nf2=%f\nf3=%f\n",f1,f2,f3);

}

f1, f2 두 개의 float형 변수에 초기값을 대입한 후 두 값을 더해 f3에 대입했다. 123456.0과 0.0001을 더했으므로 f3은 당연히 123456.0001이 되어야 할 것 같지만 결과는 123456.0이 되어 f2를 더하나 마나의 결과가 나온다. f1과 f2는 float형에 적절한 정밀도를 가지지만 이 두 값의 지수차가 심해 더한 결과는 float형에 맞지 않기 때문이다. 실수끼리 더할 때는 지수부를 일치시킨 후 가수부를 더하는데 두 값의 지수차가 심할수록 덧셈 결과의 가수부가 길어져 정밀도를 초과할 확률이 높다. 실행 결과는 다음과 같다.

f1=123456.000000

f2=0.000100

f3=123456.000000

float형의 비트 구조를 분석해 보면 이 예제의 결과가 왜 이렇게 나오는지를 설명할 수 있다. 비주얼 C++ 6.0의 경우는 f3이 123456.0001으로 출력되기도 하는데 이는 컴파일러가 이어지는 출력문을 위해 float를 double로 임시 확장하여 변수의 능력치를 초과하는 불필요한 서비스를 하기 때문이다. 비주얼 C++ 7.0, Dev-C++ 등 다른 컴파일러는 제대로(?) 틀린 결과를 출력한다. 복잡한 실수 계산은 컴파일러마다 조금씩 다를 수도 있어 가급적이면 큰 타입을 사용하는 것이 좋다.

실수의 대표격으로 float형을 분석해 봤는데 64비트의 double형은 지수부 11, 가수부 52로 좀 더 큰 크기를 가지고 바이어스가 1023이라는 것 외에 float형과 구조적인 차이점은 없다. 각 요소의 크기가 크기 때문에 double형은 float형보다 훨씬 더 크고 정밀한 수를 표현할 수 있다. 무려 10³⁰⁸승이라는 도저히 상상할 수 없는 무지막지한 수를 표현할 수 있고 10진수 15자리 정도의 정밀도를 가진다.

이상으로 실수의 구조에 대해 연구해 봤는데 제한된 비트 길이에 최대한 큰 수를 정밀도를 잃지 않으면서 저장하기 위해 무척 복잡한 구조를 가지고 있다. 그렇다면 실수의 구조를 연구해 보는 것은 과연 어떤 의미가 있을까? 수치 연산 보조 프로세서가 실수 연산을 하고 출력, 변환 등을 해 주는 함수들이 있으므로 우리가 직접 실수의 비트를 해석할 일은 거의 없다고 할 수 있다. 그러나 적어도 실수의 비트 구조가 정수와 다르므로 다음과 같은 코드가 잘못되었다는 것은 알 수 있게 될 것이다.

double d=123.456;

int *pi=(int *)&d;

printf("%d\n",*pi);

이 연산문의 결과로 123이 나오기를 기대한다면 아직도 비트의 세계를 이해하지 못했다고 보면 틀림없다. 아주 엉뚱한 숫자가 나올 것이다.