2 오차역전파

계산 그래프

계산 그래프(computationalgraph)는 계산 과정을 그래프로 나타낸 것이며, 노드(node)와 엣지(edge)로 표현합니다. 여기에서 노드는 연산을 정의하며, 엣지는 데이터가 흘러가는 방향을 나타냅니다.

그림 9-10 | 계산 그래프

그렇다면 왜 계산 그래프를 계산 과정에 이용할까요? 계산 그래프를 이용할 경우 다음 장점이 있기 때문입니다.

◼︎ 국소적 계산으로 각 노드의 계산에 집중하여 문제를 단순화할 수 있습니다.

◼︎ 역전파로 미분을 효율적으로 계산할 수 있습니다.