[Java] 부동소수점 오차 관리하기

부동소수점의 오차

컴퓨터는 2진수를 사용하여 실수를 근사치로 표현한다. 그래서 아래와 같은 작은 오차가 발생할 수 있다. 

double a = 0.2 + 0.1;	
System.out.println(a);	// output: 0.30000000000000004

 

대학교 1학년 1학기 때 배우는 상식 같은 내용이다. 이걸 모르지는 않는다. 근데 잊을 만할 때쯤 나타나 날 속상하게 한다. 그래서 다시는 이런 실수를 범하지 않겠다는 의지로 부동소수점 오차를 관리하는 법을 적어본다.

---

BigDecimal 사용하기

Java에서는 BigDecimal 클래스를 사용하면 정확한 소수점 연산이 가능하다. 단점으로는 속도가 느리다는 점과 사용법이 조금 불편하다는 점이 있다.

BigDecimal a = new BigDecimal("0.1");
BigDecimal b = new BigDecimal("0.2");	
System.out.println(a.add(b));	// output: 0.3

 

 

주의할 점은 초기화할 때 double 타입을 그대로 넘겨주면 오차도 그대로 발생한다. 그래서 문자열로 초기화해주는 것이 안전!

BigDecimal a = new BigDecimal(0.3);
BigDecimal b = new BigDecimal("0.3");	
System.out.println(a);	// output: 0.2999999999999...
System.out.println(b);	// output: 0.3

---

실수 사용을 줄이기

꼭 써야하는 상황이 아니라면 실수를 아예 안쓰는 것도 방법이다. 예를 들어,

// Math.sqrt()의 리턴 값은 실수
for (int i = 0; i < Math.sqrt(n); i++) {
    //...
}

// i * i < n 형태로 바꾸면 실수 사용을 피할 수 있음
for (int i = 0; i * i < n; i++) {
    //...
}

 

// Math.log()의 리턴 값은 실수
cnt += Math.log(n) / Math.log(i);

// 일일이 카운트 해줌으로써 실수 사용 피하기
long pow = (long) i;
while (pow <= n) {
    cnt++;
    pow *= i;
}

 

물론 이렇게 하면 코드가 장황해지고, 오버플로우가 발생할 확률도 높아진다. 그래도 오버플로우는 눈에 잘 보이기라도 하지 부동소수점 오차는 티끌만 해서 찾아내기도 어렵다.