16-2-7.정확한 연산

숫자간의 기본적인 연산은 언어가 제공하는 연산자를 사용한다. 그러나 디지털의 한계로 인해 때로는 상식적인 연산도 부정확하게 처리되는 경우가 있다. 다음 예제를 보자.

overflow	실행결과
class JavaTest { public static void main(String[] args) { int i = 1500000000; int j = 1500000000; int k = i + j; System.out.println(k); } }	-1294967296

15억 + 15억은 당연히 30억이다. 그러나 이는 int 타입의 표현 범위를 넘어선 값이어서 30억의 보수가 대신 출력된다. 두 개의 큰 값을 더했는데 오버플로우에 의해 오히려 음수가 되어 버렸다. 왜 이런 현상이 발생했는지 이해할 수 있지만 분명 원하는 값은 아니다.

기본 연산자는 규칙에 따라 비트끼리 연산했을 뿐이며 오버플로우가 발생해도 태연하게 그 결과를 변수에 대입해 버린다. 문제는 이런 잘못된 값이 나왔는지 모른 채 프로그램은 계속 실행되며 이후의 실행은 예측 불가하다는 점이다. 1.8에서 새로 추가된 Math의 다음 정적 메서드는 기본 연산자가 하는 동작을 똑같이 수행한다.

메서드	설명
int incrementExact(int a)	값을 1증가시킨다.
int decrementExact(int a)	값을 1감소시킨다.
int addExact(int x, int y)	두 값을 더한다.
int subtractExact(int x, int y)	두 값을 뺀다.
int multiplyExact(int x, int y)	두 값을 곱한다.
int negateExact(int a)	음수값을 구한다.
int toIntExact(long value)	long 타입 변수를 int 타입으로 변환한다.

이 메서드는 연산중 오버플로우가 발생하면 ArithmeticException 예외를 던져 이상이 발생했음을 알린다. 연산문을 예외처리 구문으로 감싸 오버플로우 예외를 적극적으로 처리할 수 있다. 단, 나누기는 오버플로우가 발생하지 않으므로 별도의 메서드가 정의되어 있지 않다.

arexception	실행결과
class JavaTest { public static void main(String[] args) { int i = 1500000000; int j = 1500000000; try { int k = Math.addExact(i, j); System.out.println(k); } catch (ArithmeticException e) { System.out.println("산술 연산 예외 발생"); } } }	산술 연산 예외 발생

고의로 오버플로우 예외를 일으키는 연산을 해 보고 예외 처리 구문으로 감쌌다. 체크드 예외는 아니어서 필수는 아니지만 필요할 때 예외를 잡아 처리할 수 있다. 단순히 예외 사실을 메시지로 출력했는데 무난한 값으로 처리하거나 재입력을 요구할 수 있다.

다음은 나머지 연산자 %의 특성에 대해 연구해 보자. 나머지 연산은 여러 가지 용도로 많이 쓰이는데 대개의 경우 문제가 없지만 피젯수가 음수일 때는 음수 결과가 나온다는 문제가 있다. 다음 코드를 보자.

System.out.println(5 % 2); // 1

System.out.println(-5 % 2); // -1

5 % 2가 1인 것은 이견의 여지가 없다. 나머지 연산은 피젯수 = 젯수 * 몫 + 나머지의 식을 만든 후 몫은 버리고 나머지만 취하는 연산으로 정의되어 있다. 그래서 5 % 2는 다음과 같이 계산된다.

5 = 2 * 2 + 1

몫 2는 버리고 나머지 1을 리턴한다. 이에 비해 6 % 2는 몫이 3이고 나머지는 없으므로 0이 리턴된다. 그래서 % 연산자는 홀짝 판별에 흔히 사용되며 나머지가 1이면 홀수다. 그러나 음수의 경우에는 이상한 결과가 나온다.

-5 = 2 * -2 + (-1)

몫이 -2이고 나머지가 -1이 된다. 이 계산에 의하면 -5는 홀수가 아니며 그렇다고 짝수도 아닌 애매한 상태가 되어 버린다. 수학적으로 a % b 나머지 연산의 결과는 0 ~ b 사이의 정수로 규정되어 있다. 예를 들어 어떤 수를 3으로 나눈 나머지는 0, 1, 2 셋중 하나여야 한다. 수학도 절대적 진리가 아니라 합의에 의한 약속이다.

그러나 디지털 연산에서는 이 규칙을 지키지 않고 더 간편한 방법으로 나머지를 구한다. 연산 규칙도 하나의 약속이기 때문에 어떤 것이 꼭 맞다고 할 수 없지만 수학적 정의와 달라 가끔 문제가 된다. 이 문제를 해결하기 위해 Math는 floorMod 메서드를 제공하며 수학적 정의에 따라 나머지 연산을 수행한다.

System.out.println(Math.floorMod(5, 2)); // 1

System.out.println(Math.floorMod(-5, 2)); // 1

이 메서드로 나머지 연산을 수행하면 결과는 항상 0 ~ 젯수 사이의 값이 되어 음수에 대해서도 홀짝 판별을 정확하게 수행한다. 이런 나머지 연산을 위해서는 나누기 연산도 정확하게 정의해야 한다. / 연산자는 0에 가까운 몫을 돌려 주는데 비해 floorDiv는 가급적 큰 몫을 계산한다. 다음 코드를 보자.

System.out.println(5 / 2); // 2

System.out.println(-5 / 2); // -2

System.out.println(Math.floorDiv(5, 2)); // 2

System.out.println(Math.floorDiv(-5, 2)); // -3

양수끼리의 나눗셈에 대해서는 큰 이견이 없다. 그러나 음수인 경우에는 / 연산자로 나눈 경우와 floorDiv로 나눈 경우의 결과가 다르다. -5 / 2는 몫을 2로 계산하는데 비해 floorDiv는 -3으로 계산한다.