잘못 예측했을 때는 가중치를 양성 또는 음성 타깃 클래스 방향으로 이동시킵니다.
(3) 
(4) 
곱셈 계수 역할을 하는 특성 값 
를 좀 더 잘 이해하기 위해 다른 예를 살펴보겠습니다.
일 때 이 샘플을 0으로 잘못 분류했다고 가정합니다. 이때 가중치가 2.5만큼 증가되어 다음번에 이 샘플을 만났을 때 최종 입력 
가 더 큰 양수가 됩니다. 따라서 단위 계단 함수의 임계 값보다 커져 샘플이 클래스 1로 분류될 가능성이 높아질 것입니다.
가중치 업데이트 Δwj는 
값에 비례합니다. 예를 들어 다른 샘플 
를 0으로 잘못 분류했다면 이 샘플을 다음번에 올바르게 분류하기 위해 더 크게 결정 경계를 움직입니다.
