그래디언트 계산(크기 & 방향)

엣지가 있는 위치에서 그래디언트 크기가 크게 나타난다는 사실은 이미 11.1절에서 설명하였다. 캐니 엣지 검출기도 그래디언트의 크기를 기본으로 엣지 위치를 탐색한다. 그러나 프리윗 또는 소벨 마스크 필터가 오직 그래디언트의 크기만을 이용하여 엣지를 탐색하였다면, 캐니 엣지 검출기는 그래디언트의 방향까지 함께 고려하여 좀 더 정확한 엣지를 찾는다. 그렇기 때문에 그래디언트의 크기뿐만 아니라 그래디언트의 방향까지 함께 계산해야 한다.

캐니 엣지 검출기를 구현할 때 그래디언트 계산은 보통 소벨 마스크를 사용한다. 가로 방향으로의 미분을 계산하는 소벨 마스크 결과 영상을 G_x라고 하고 세로 방향으로의 미분을 계산하는 소벨 마스크 결과 영상을 G_y라고 할 경우, 그래디언트의 크기와 방향은 다음과 같이 구할 수 있다.