오버플로

오버플로(overflow)는 컴퓨터 과학에서 변수가 나타낼 수 있는 최대값 또는 최소값의 범위를 초과하는 경우 발생하는 현상이다. 이 현상은 정수형 변수뿐만 아니라 부동소수점 변수에서도 발생할 수 있으며, 각각 정수 오버플로(integer overflow)와 부동소수점 오버플로(floating-point overflow)라고 부른다.

발생 원인

오버플로는 프로그래밍 언어에서 자료형이 표현할 수 있는 값의 범위가 제한되어 있기 때문에 발생한다. 예를 들어, 8비트 정수형 변수는 -128부터 127까지의 값만 표현할 수 있는데, 이 범위를 벗어나는 연산 결과가 발생하면 오버플로가 발생한다.

영향

오버플로가 발생하면 예상치 못한 결과가 발생할 수 있다. 정수 오버플로의 경우, 변수의 값이 최소값으로 'wrapping around' 되거나, 예외가 발생할 수 있다. 부동소수점 오버플로의 경우, 양의 무한대(positive infinity) 또는 음의 무한대(negative infinity) 값을 반환할 수 있다. 이러한 예상치 못한 결과는 프로그램의 오작동 또는 보안 취약점으로 이어질 수 있다.

해결 방법

오버플로를 방지하기 위해 다음과 같은 방법을 사용할 수 있다.

• 더 큰 자료형 사용: 표현 가능한 값의 범위가 더 넓은 자료형을 사용하여 오버플로 발생 가능성을 줄일 수 있다. 예를 들어, 8비트 정수 대신 32비트 정수를 사용할 수 있다.
• 오버플로 검사: 연산 전에 오버플로가 발생할 가능성이 있는지 미리 검사하여 오버플로가 발생하기 전에 예외를 처리하거나 오류 메시지를 출력할 수 있다.
• 언어 지원 기능 활용: 일부 프로그래밍 언어는 오버플로를 자동으로 감지하고 처리하는 기능을 제공한다. 예를 들어, Ada는 오버플로를 감지하면 예외를 발생시킨다.
• 적절한 알고리즘 선택: 특정 알고리즘은 오버플로를 발생시키기 쉬우므로, 오버플로 발생 가능성을 최소화하는 알고리즘을 선택하는 것이 중요하다.

예시

#include <stdio.h>

int main() {
  char x = 127; // 8비트 정수형 변수

  x = x + 1;   // 오버플로 발생

  printf("x = %d\n", x); // x = -128 (예상치 못한 결과)

  return 0;
}