이중 임계값을 이용한 히스테리시스 에지 트래킹
앞 절에서 설명한 소벨 에지 검출 방법에서는 그래디언트 크기가 특정 임계값보다 크면 에지 픽셀로, 작으면 에지가 아닌 픽셀로 판단했습니다. 이 경우 조명이 조금 바뀌거나 또는 임계값을 조금만 조절해도 에지 픽셀 판단 결과가 크게 달라질 수 있습니다. 즉, 하나의 임계값을 사용할 경우 이분법으로 결과가 판단되기 때문에 환경 변화에 민감해질 수 있습니다. 이러한 문제를 보완하기 위해 캐니 에지 검출기에서는 두 개의 임계값을 사용합니다.
캐니 에지 검출기에서 사용하는 두 개의 임계값 중에서 높은 임계값을 THigh, 낮은 임계값을 TLow라고 표기하겠습니다. 만약 그래디언트 크기가 THigh보다 크면 이 픽셀은 최종적으로 에지로 판단합니다. 그래디언트 크기가 THigh보다 작으면 에지 픽셀이 아니라고 판단합니다. 그래디언트 크기가 TLow와 THigh 사이인 픽셀은 에지일 수도 있고 에지가 아닐 수도 있다고 판단하며, 이런 픽셀에 대해서는 추가적인 검사를 수행합니다.
설명의 편의를 위해 그래디언트 크기가 THigh보다 큰 픽셀을 강한 에지(strong edge)라고 표현하고, 그래디언트 크기가 TLow와 THigh 사이인 픽셀은 약한 에지(weak edge)라고 표현하겠습니다. 캐니 에지 검출기의 마지막 단계에서는 히스테리시스 에지 트래킹(hysteresis edge tracking) 방법을 사용하여 약한 에지 중에서 최종적으로 에지로 판별할 픽셀을 선택합니다. 히스테리시스 에지 트래킹 방법은 에지 픽셀이 대체로 상호 연결되어 있다는 점을 이용합니다. 만약 약한 에지 픽셀이 강한 에지 픽셀과 서로 연결되어 있다면 이 픽셀은 최종적으로 에지로 판단합니다. 반면에 강한 에지와 연결되어 있지 않은 약한 에지 픽셀은 최종적으로 에지가 아니라고 판단합니다.