위대한 경제학자이자 사상가인 존 메이너드 케인스(John Maynard Keynes)의 다음 말이 자주 인용된다(출처가 분명하진 않다). “사실이 변할 때 나도 마음을 바꿉니다. 당신은 무엇을 할 거죠?” 이 인용문은 베이지안이 증거를 보고 믿음을 업데이트하는 방식을 반영한 것이다. 만일 증거가 최초 믿음에 반대되는 것이라도 증거를 무시할 수는 없다. 업데이트된 믿음, P(A|X)는 증거 X가 주어진 상황에서 A의 확률로 볼 수 있다. 업데이트된 믿음의 양을 사전확률과 구분해 사후확률(posterior probability)이라고 한다. 예를 들어 앞의 예제에 대해 증거 X를 관측한 후의 사후확률(사후적 믿음)을 생각해보자.

 

1. P(A): 동전의 앞면이 나올 확률이 50%다. P(A|X): 여러분은 동전이 앞면으로 떨어지는 걸 봤다. 이 정보를 X라고 표시하고 앞면이 나올 확률을 1.0으로, 뒷면이 나올 확률을 0.0으로 부여한다.

2. P(A): 길고 복잡한 이 코드에는 버그가 있을 것 같다. P(A|X): 코드가 X 테스트를 전부 통과했다. 아직 버그가 있을 수 있지만, 지금 당장 버그가 있을 것 같진 않다.

3. P(A): 환자는 여러 질병에 걸릴 수 있다. P(A|X): 혈액 검사 후 X라는 증거가 나왔으므로 가능한 몇몇 결과를 고려 대상에서 제외한다.

 

각각의 예제에서 여러분은 분명히 새로운 증거 X를 본 후에도 이전의 믿음을 완전히 버리지 않았을 것이다. 그러나 새로운 증거를 포함해 사전확률을 재계산한다(즉, 다른 것에 비해 몇몇 믿음에 가중치나 신뢰를 더 부여한다).

사건의 사전적인 불확실성을 도입하는 것은 우리의 추측이 잠재적으로 틀리다는 걸 인정하는 것이다. 데이터, 증거, 기타 정보를 관찰한 후 믿음을 업데이트하면 추측은 덜 틀리게 될 것이다. 이런 방법이 동전 예측을 좀더 정확하게 하기 위한 대안이다.