1 딥러닝의 결과를 설명하는 방법

설명이 가능한 딥러닝을 XAI(Explainable AI)라고도 합니다. 예측의 근거를 설명해 주는 기술이지요. 이미지를 사용해 이름이나 물건의 종류를 맞히는 모델을 만들었다면, 이미지의 어디를 보고 왜 그런 판단을 했는지 설명해 내는 또 다른 그림을 그려 내는 것입니다. 예를 들어 그림 21-1은 잠시 후 우리가 다룰 설명 가능한 딥러닝 방법 중 하나의 결과입니다. 원본 이미지(➊)는 말티즈였습니다. 말티즈를 말티즈로 구분해 내는 근거를 ➋번 그림이 보여 주고 있습니다. 색이 밝을수록 예측에 많은 기여를 했다는 것이고 파란색에 가까울수록 기여가 적다는 것인데, 두 눈과 코가 밝고 나머지는 대부분 푸른색 계열로 보이고 있군요. 이것으로 미루어 보건데, 이 모델은 말티즈를 구분할 때 주로 눈과 코를 본다는 것을 알 수 있습니다. 이 덕분에 사용자에게 이 사진을 말티즈로 예측한 근거가 눈과 코라고 말할 수 있습니다.

그림 21-1 | 설명 가능한 딥러닝을 통해 알아본 ‘말티즈’ 예측의 근거