필터링 연산의 결과는 마스크 행렬의 모양과 원소 값에 의해 결정됩니다. 즉, 마스크 행렬을 어떻게 정의하는가에 따라 영상을 전반적으로 부드럽게 만들 수도 있고, 반대로 날카롭게 만들 수도 있습니다. 또는 영상에서 잡음을 제거하거나 에지(edge) 성분만 나타나도록 만들 수도 있습니다.¹ 원하는 필터링 결과를 얻기 위해 마스크 행렬을 어떻게 설정해야 하는지에 대해서는 다음 절부터 하나하나 알아보기로 하고, 여기서는 마스크를 사용하여 필터링을 수행하는 기본적인 방법에 대해 알아보겠습니다.

가장 널리 사용되는 3×3 정방형 마스크를 이용한 필터링 수행 방법을 그림 7-2에 나타냈습니다. 그림 7-2에서 m은 마스크 행렬을 나타내고, f와 g는 각각 입력 영상과 출력 영상을 의미합니다. 이 그림에서 마스크 행렬 크기가 3×3이므로 고정점의 좌표는 중심 좌표인 (1, 1)로 설정하였습니다. 마스크를 이용한 필터링은 입력 영상의 모든 픽셀 위로 마스크 행렬을 이동시키면서 마스크 연산을 수행하는 방식으로 이루어집니다. 마스크 연산이란 마스크 행렬의 모든 원소에 대하여 마스크 행렬 원소 값과 같은 위치에 있는 입력 영상 픽셀 값을 서로 곱한 후, 그 결과를 모두 더하는 연산입니다. 그리고 마스크 연산의 결과를 출력 영상에서 고정점 위치에 대응되는 픽셀 값으로 설정합니다. 그러므로 마스크 행렬 m의 중심이 입력 영상의 (x, y) 좌표 위에 위치했을 때 필터링 결과 영상의 픽셀 값 g(x, y)는 다음과 같이 계산됩니다.