비최대 억제

그래디언트 크기가 특정 임계값보다 큰 픽셀들을 엣지 픽셀로 지정할 경우, 하나의 엣지 위치에 대해 여러 개의 픽셀이 동시에 엣지로 판별되는 현상이 발생한다. 특히 앞에서 그래디언트 필터링에 의해 영상이 부드러워지는 효과가 추가되었기 때문에 하나의 엣지가 여러 개의 픽셀로 표현되는 경우가 더 빈번하게 발생할 수 있다. 비최대 억제^{Non-maximum suppression}는 이처럼 여러 개의 픽셀에 의해 하나의 엣지가 표현되는 현상을 없애기 위하여 그래디언트 크기가 국지적 최대^{local maximum}인 픽셀만을 엣지 픽셀로 설정하는 기법이다. 상대적으로 국지적 최대가 아닌 픽셀은 엣지 픽셀에서 제외하기 때문에 비최대 억제라는 용어를 사용하는 것이다.

그렇다면 국지적 최대를 어떻게 판별할까? 일반적인 국지적 최대 검출 문제라면 특정 픽셀 주변의 모든 픽셀 값을 검사하여 국지적 최대를 판별해야 한다. 그러나 캐니 엣지 검출기의 비최대 억제 과정에서는 그래디언트의 방향 성분을 고려하여 국지적 최대를 검사한다. 캐니 엣지 검출기에서 비최대 억제를 적용하기 위해 그래디언트 방향 성분을 크게 네 개의 구역으로 나눈다. 그림 11-10은 0~360° 범위의 각도 성분을 양자화하여 4개의 방향 성분으로 나눈 결과를 보여준다. 이 그림에서 밝은 색상의 픽셀이 그래디언트 크기가 큰 픽셀이고, 어두운 픽셀은 상대적으로 그래디언트 크기가 작은 픽셀이다. 흰색 픽셀의 흐름을 나타내는 화살표 방향을 엣지의 방향이라고 하고, 이는 그래디언트 방향과 수직이다. 캐니 엣지 검출기에서 국지적 최대를 검사할 때에는 엣지의 방향에 수직인 방향으로 인접한 픽셀과 크기를 검사한다. 즉, 그림 11-10에서 중심 픽셀과 별표로 표시된 픽셀들의 그래디언트 크기를 비교하여 국지적 최대인지를 판별한다.