모든 가중치가 동시에 업데이트되기 때문에 업데이트 규칙을 다음과 같이 일반적인 형태로 쓸 수 있습니다.

Δw는 다음과 같이 정의합니다.

로그 가능도를 최대화하는 것이 앞서 정의한 비용 함수 J를 최소화하는 것과 동일하기 때문에 경사 하강법 업데이트 규칙을 다음과 같이 쓸 수 있습니다.

이 식은 2장에서 본 아달린의 경사 하강법 규칙과 동일합니다.