6장
1 역주 다음 식에서 n은 미니배치에 포함된 샘플 개수를 의미합니다. 규제 항을 샘플 개수로 나누는 이유와 가중치 감쇠에 대해서는 부록 Q5를 참고하세요.
2 역주 원서는 뉴런(neuron), 유닛(unit), 노드(node)를 혼용하지만 번역서에서는 가급적 유닛으로 통일합니다.
3 역주 또는 지식 증류라고도 합니다.
4 역주 층의 유닛 개수를 의미합니다.
5 역주 지도 학습에서 쿨백 라이블러 발산 대신 크로스 엔트로피 손실을 사용하는 이유에 대해서는 부록 Q6을 참고하세요.