예를 들어 자율 주행 자동차는 복잡한 딥러닝 알고리즘을 사용하여 주변 환경을 인식하고 결정을 내립니다. 이때 결정이란 언제 브레이크를 밟을지, 언제 우회전할지 등등 결정하는 것을 의미합니다. 그러나 이러한 결정 과정은 종종 우리 인간이 이해할 수 없는 경우가 많은데, 이러한 문제로 차량이 특정 상황에서 어떻게 행동할지 예측하기 어렵다는 점이 있습니다.

▲ 그림 2-13 자율 주행 차의 투명성 문제