바꿀까 바꾸지 말까 : 내게 유리한 선택은?

뭐가 더 유리할까? 몬티홀 문제

1970년대 미국의 〈거래를 합시다〉라는 TV 퀴즈 프로그램에서 1등을 한 사람은 3개의 문 중 하나를 선택해야 했어요. 그 문 뒤에 포르쉐가 있으면 갖고, 아무것도 없으면 꽝이에요. 확률은 3분의 1이 되겠죠.
1등을 한 사람이 문을 하나 선택하면, 프로그램 진행자인 몬티홀이 아무것도 없는 다른 문을 열어 보이면서 “선택을 바꾸겠냐”고 물었어요. 이 경우 선택을 바꾸는 것이 유리할까요? 아니면 원래의 선택을 고수하는 것이 유리할까요? 혹은 선택을 바꾸든 바꾸지 않든 마찬가지일까요? 이것이 바로 몬티홀 문제입니다.

상황에 따라 달라지는 확률

3개의 컵 중 하나에 만 원을 넣고 야바위를 해봅시다. 진행자는 돈이 어디 있는지 알고 있지만, 우리는 모릅니다. 여러분이 1번 컵을 고르자, 진행자가 2번 컵을 보여주면서 돈이 없다는 것을 보여주었다고 합시다. 그러면 돈은 1번 컵 아니면 3번 컵에 있겠죠? 이 경우 1번 컵에 있을 확률이 2분의 1이고, 3번 컵에 있을 확률이 2분의 1이겠죠. 그러면 1번 컵을 고르나 3번 컵을 고르나 확률은 같겠죠? 그러니 선택을 바꾸든, 바꾸지 않든 상관이 없지 않을까요?
그런데 1975년 미국의 통계학자인 Steve Selvin이 그렇지 않다는 것을 증명합니다.

3개의 컵들 중 3번 컵에 돈이 있다고 합시다. 진행자는 어디에 돈이 있는지 알고 있고, 여러분이 1번 컵을 선택했다고 하죠. 그러면 돈이 1번 컵에 있을 확률이 3분의 1이고, 1번 컵에 없을 확률, 즉 2번이나 3번 컵에 있을 확률은 3분의 2예요.
그런데 진행자는 3번 컵에 돈이 있다는 것을 알고 있으므로, 2번 컵을 열어보여주면서 선택을 바꾸겠냐고 물어보겠죠. 그러면 돈이 3번 컵에 있을 확률은 3분의 2가 돼요. 2번 컵이 갖고 있는 3분의 1의 확률이 3번 컵의 3분의 1의 확률과 합쳐진 거죠.
이해를 돕기 위해 새로운 예를 들어볼게요. 컵이 10개가 있고 그중 하나에 돈이 들어 있어요. 거기서 여러분이 1번 컵을 골랐다고 합시다. 1번 컵에 돈이 있을 확률은 10%죠?

이때 진행자는 돈이 어디 있는지 알고 있다고 하죠. 진행자가 컵을 하나씩 열어 보이면서 돈이 없다는 것을 확인시켜주었고, 이제 여러분이 고른 1번 컵과 다른 컵 하나만 남았어요. 여러분은 선택을 바꾸겠어요?
이 경우 선택을 바꾸는 것이 당연히 유리합니다. 여러분이 고른 컵에 돈이 있을 확률은 10분의 1이지만, 남은 다른 한 컵에 있을 확률은 10분 의 9이므로 선택을 바꾸는 것이 합리적인 것입니다.

여러분이 3개의 컵 중 1번 컵을 선택했는데, 이번에는 진행자도 돈이 어디에 있는지 모른다고 하죠. 그냥 2번 컵을 열어보니 돈이 없어요. 이때 진행자가 여러분에게 선택을 바꾸겠냐고 물어보면, 3번 컵으로 선택을 바꾸는 것이 유리한가요? 이 경우에는 진행자도 돈이 어디 있는지 모르므로 1번 컵을 선택하든, 3번 컵을 선택하든 확률은 2분의 1이에요.
결과적으로 2번 컵에 돈이 없다는 것을 아는 상황과 모르는 상황에서 확률이 달라지죠. 확률은 고정적이지 않고 상황에 따라서 달라집니다.

이 포스트는 『5분 뚝딱 철학 : 생각의 역사』(김필영)에서 발췌, 재정리한 것입니다.