캐니 윤곽선 검출(Canny edge detection)은 디지털 영상에서 객체의 윤곽선(에지, edge)을 검출하기 위한 대표적인 알고리즘이다. 1986년 존 F. 캐니(John F. Canny)가 자신의 논문 "A Computational Approach To Edge Detection"에서 제안하였으며, 컴퓨터 비전 및 영상 처리 분야에서 가장 널리 사용되는 에지 검출 기법 중 하나이다.
개발 배경 및 목표
캐니는 이상적인 에지 검출기가 갖추어야 할 세 가지 조건을 제시하였다. 첫째, 정확한 검출(good detection)로, 실제 에지는 놓치지 않고 검출하면서 에지가 아닌 부분을 에지로 잘못 검출하는 확률을 최소화해야 한다. 둘째, 정확한 위치(good localization)로, 검출된 에지의 위치가 실제 에지의 중심과 최대한 일치해야 한다. 셋째, 단일 에지(single edge response)로, 하나의 실제 에지에 대해 하나의 응답만 존재해야 하며 중복 검출이 발생하지 않아야 한다. 캐니는 변분법(calculus of variations)을 이용하여 이 조건들을 최적화하는 필터를 도출하였고, 그 결과물이 캐니 에지 검출기이다.
알고리즘의 주요 단계
캐니 윤곽선 검출 알고리즘은 일반적으로 다음 5단계로 구성된다.
-
잡음 제거(Noise Reduction): 입력 영상에 가우시안 필터(Gaussian filter)를 적용하여 잡음을 억제한다. 일반적으로 5×5 크기의 가우시안 커널이 사용된다. 잡음은 에지 검출에 큰 영향을 미치므로 이 단계는 필수적이다.
-
그래디언트 계산(Intensity Gradient Calculation): 잡음이 제거된 영상에 소벨(Sobel) 연산자 등의 미분 필터를 적용하여 x방향과 y방향의 1차 도함수를 구한다. 이를 통해 각 픽셀에서의 그래디언트 크기(magnitude)와 방향(direction)을 계산한다. 그래디언트 방향은 일반적으로 0°, 45°, 90°, 135°의 네 방향 중 하나로 근사화된다.
-
비최대 억제(Non-maximum Suppression, NMS): 그래디언트 크기가 국지적 최대값(local maximum)인 픽셀만을 남기고 나머지는 제거하여 에지의 두께를 1픽셀로 얇게 만드는 과정이다. 각 픽셀에 대해 그래디언트 방향을 따라 이웃한 두 픽셀과 비교하여, 현재 픽셀의 그래디언트 크기가 가장 큰 경우에만 에지로 유지된다.
-
이중 임계값(Double Thresholding): 비최대 억제를 거친 후에도 잡음이나 색상 변화로 인한 약한 응답이 남아 있을 수 있다. 이를 처리하기 위해 두 개의 임계값(높은 임계값 T_high, 낮은 임계값 T_low)을 사용한다. 그래디언트 크기가 T_high보다 큰 픽셀은 강한 에지(strong edge)로, T_low보다 작은 픽셀은 비에지로, 그 사이 값은 약한 에지(weak edge)로 분류한다.
-
히스테리시스 에지 추적(Edge Tracking by Hysteresis): 약한 에지 중에서 강한 에지와 연결되어 있는 픽셀만 최종 에지로 채택하고, 연결성이 없는 약한 에지는 제거한다. 이는 실제 에지는 대체로 연결되어 있다는 가정에 기반한다. 8-연결성(8-connected neighborhood)을 기준으로 강한 에지와 연결된 약한 에지를 추적하여 최종 에지 맵을 생성한다.
OpenCV에서의 구현
OpenCV 라이브러리에서는 cv2.Canny() 함수(파이썬 기준)로 캐니 에지 검출을 제공한다. 주요 매개변수는 다음과 같다.
image: 입력 영상(8비트 그레이스케일)threshold1: 히스테리시스 에지 검출을 위한 첫 번째(낮은) 임계값threshold2: 히스테리시스 에지 검출을 위한 두 번째(높은) 임계값apertureSize: 소벨 연산을 위한 커널 크기(기본값 3)L2gradient: 그래디언트 크기 계산 시 L2 노름 사용 여부(기본값 False, L1 노름 사용)
일반적으로 낮은 임계값과 높은 임계값의 비율은 1:2 또는 1:3으로 설정하는 것이 권장된다.
특성 및 한계
캐니 에지 검출은 잡음에 강하고 정교한 에지 검출이 가능하다는 장점이 있다. 그러나 다음과 같은 한계도 존재한다. 첫째, 가우시안 필터가 잡음뿐만 아니라 에지 자체도 부드럽게 만들어 약한 에지를 놓칠 가능성이 있다. 둘째, 고정된 전역 임계값을 사용하므로 영상의 국소적 특성에 따라 적응적으로 대응하기 어렵다. 셋째, 임계값 설정이 실험적(empirical)으로 결정되므로 최적값을 찾기 위해 여러 번의 시도가 필요할 수 있다. 이러한 한계를 개선하기 위해 적응형 필터, 오츠(Otsu) 방법을 활용한 자동 임계값 결정, 커브렛(curvelet) 변환 등을 적용한 변형 알고리즘들이 연구되어 왔다.
활용 분야
캐니 윤곽선 검출은 객체 검출(object detection), 영상 분할(image segmentation), 특징 추출(feature extraction), 패턴 인식(pattern recognition), 의료 영상 분석, 자율 주행, 로봇 비전 등 컴퓨터 비전 전반에 걸쳐 폭넓게 사용된다.
