따라서 다음과 같이 정리할 수 있습니다.
이 부분을 보기 앞서 다음 그림을 한 번 더 보겠습니다.
그림 2 | 가중합과 활성화 함수
여기서 가중합3이 yo1로 바뀌는 과정에는 활성화 함수3을 거치는 것을 알 수 있습니다. 가중합3이 활성화 함수3을 통해 yo1이 됩니다. 그러면 yo1을 가중합3에 대해 미분하라는 것은 yo1을 배출한 활성화 함수3을 미분하라는 의미가 됩니다.
활성화 함수에는 여러 가지가 있지만, 그중에서 시그모이드 함수를 사용하겠습니다. 그러면 이제 시그모이드 함수를 미분하는 방법을 알아볼 차례입니다.