3 어텐션을 사용한 신경망

우리 몸은 단백질로 이루어져 있습니다. 생명 활동의 기본 단위인 단백질이 어떤 구조와 방식으로 움직이는지 이해하는 것은 생명 현상을 연구하는 데 필수적입니다. 특히 신약 개발 및 난치병 치료를 위해서는 단백질 구조를 알아야 하는데, 이 구조를 알아내기가 너무 어려웠습니다. 그래서 이 분야의 연구를 하는 사람들이 2년에 한 번씩 모여서 서로의 방법을 공유하고 평가하기로 했습니다. 이것이 세계 단백질 구조 예측 대회의 시작입니다.

그런데 2020년 12월, 제14회 세계 단백질 구조 예측 대회를 하던 날이었습니다. 대회에 참여한 모든 학자가 깜짝 놀랐습니다. 누구도 흉내 낼 수 없을 만큼 정확하게 단백질 구조를 예측한 알파폴드 2가 등장했기 때문입니다. 알파폴드는 알파고를 만든 구글의 딥마인드가 단백질 구조 예측을 위해 만든 툴입니다. 사람들은 알파폴드가 어떤 배경으로 작동하는지 궁금해 했습니다. 그리고 알파폴드의 중요한 축을 담당하고 있는 것이 바로 어텐션(attention) 알고리즘이었다는 것을 알게 되었습니다. 딥러닝의 성능을 한층 업그레이드시킨 어텐션은 어떤 배경으로 탄생했으며, 어떤 원리로 실행되는 것일까요?