3. “그녀는”: 이제 두 번째 문장에서 ‘그녀는’이 등장합니다. 셀프 어텐션 메커니즘은 ‘그녀’가 앞서 언급된 ‘에이미’를 가리키고 있다는 것을 알아차립니다. 앞 문장에서 ‘에이미’가 주어로 등장했으므로 ‘그녀’는 자연스럽게 ‘에이미’를 지칭한다고 판단합니다.

4. “책을 읽었다”: 셀프 어텐션 메커니즘은 ‘그녀’가 ‘에이미’를 가리키므로 ‘책을 읽었다’라는 행동도 에이미가 한 것이라는 결론을 내립니다.

▲ 그림 2-14 셀프 어텐션 메커니즘 예시