몬티 홀 문제 쉽게 이해하기, 바꾸면 왜 3분의 2일까

2026년 10월 27일 · 제비 편집팀

몬티 홀 문제는 확률 문제 가운데 가장 많은 사람을 헷갈리게 만든 문제로 꼽힙니다. 문제 자체는 아주 단순합니다. 문이 세 개 있고, 하나의 문 뒤에는 자동차가, 나머지 두 문 뒤에는 염소가 있습니다. 참가자가 문 하나를 고르면, 어느 문 뒤에 무엇이 있는지 알고 있는 사회자가 남은 두 문 가운데 염소가 있는 문 하나를 열어 보여 줍니다. 그리고 묻습니다. “처음 고른 문을 그대로 두시겠습니까, 아니면 남은 문으로 바꾸시겠습니까?”

대부분의 사람은 이제 문이 두 개 남았으니 어느 쪽이든 반반이라고 생각합니다. 그런데 정답은 바꾸는 쪽이 이길 확률이 3분의 2, 그대로 두면 3분의 1입니다. 처음 들으면 쉽게 믿기지 않는 이 결과를 여러 방법으로 차근차근 살펴보겠습니다.

이 문제가 유명해진 이야기

이 문제의 이름은 미국의 텔레비전 게임쇼 진행자 몬티 홀에서 따왔습니다. 그가 진행하던 쇼에 비슷한 장면이 있었기 때문입니다. 문제가 널리 알려진 것은 1990년 미국의 한 잡지 칼럼에서였습니다. 칼럼니스트 메릴린 보스 사반트가 독자의 질문에 “바꾸는 것이 유리하다” 고 답하자, 수학 박사들을 포함해 수많은 독자가 틀렸다는 편지를 보냈다고 합니다. 위대한 수학자 폴 에르되시도 처음에는 이 답을 받아들이지 않다가 컴퓨터 모의실험 결과를 보고서야 수긍했다는 일화가 전해집니다. 그만큼 사람의 직관을 강하게 배신하는 문제입니다.

처음 고른 순간을 기억하자

핵심은 처음 문을 고르는 순간에 있습니다. 세 문 가운데 하나를 아무렇게나 고르면, 그 문 뒤에 자동차가 있을 확률은 3분의 1입니다. 자동차가 나머지 두 문 가운데 어딘가에 있을 확률은 3분의 2입니다. 여기까지는 누구나 동의합니다.

이제 사회자가 문을 엽니다. 사회자는 자동차가 어디 있는지 알고 있고, 반드시 염소가 있는 문을 엽니다. 그러니 사회자가 문을 연다고 해서 “내가 고른 문에 자동차가 있을 확률 3분의 1” 은 바뀌지 않습니다. 사회자는 내 문이 맞든 틀리든 언제나 염소 문 하나를 열 수 있기 때문입니다. 바뀌는 것은 나머지 두 문 쪽입니다. 원래 두 문이 나눠 가지던 3분의 2의 확률이, 사회자가 염소 문을 열어 치워 버린 덕분에 남은 문 하나에 모두 모입니다. 그래서 남은 문으로 바꾸면 3분의 2의 확률로 자동차를 얻습니다.

세 가지 경우를 모두 써 보기

말로 들어서 이해가 안 된다면 경우를 직접 써 보는 것이 가장 확실합니다. 내가 항상 1번 문을 고른다고 하고, 자동차가 1번, 2번, 3번 문 뒤에 있는 세 경우를 나눠 봅니다.

세 경우는 모두 똑같은 확률로 일어납니다. 그대로 두면 세 경우 가운데 한 번 이기고, 바꾸면 세 경우 가운데 두 번 이깁니다. 바꾸는 쪽이 지는 경우는 처음부터 자동차를 골랐던 운 좋은 경우뿐입니다. 처음에 염소를 고를 확률이 3분의 2이므로, 바꾸는 전략은 그 3분의 2만큼 이기는 전략입니다.

문이 100개라면

그래도 실감이 나지 않는다면 문을 100개로 늘려 보세요. 100개의 문 가운데 하나에만 자동차가 있고, 나는 1번 문을 고릅니다. 그러자 모든 것을 아는 사회자가 내가 고른 문과 37번 문만 남기고 나머지 98개의 문을 모두 열어 염소를 보여 줍니다. 이제 1번 문을 지키겠습니까, 37번 문으로 바꾸겠습니까.

이렇게 놓고 보면 답이 훨씬 분명해집니다. 처음에 1번 문을 고른 것은 100개 가운데 아무거나 하나를 찍은 것이라 맞았을 확률이 100분의 1입니다. 사회자는 98개의 문을 열면서 하필 37번 문만 남겼습니다. 자동차가 1번 문에 있지 않은 이상, 사회자는 자동차가 있는 그 문을 남길 수밖에 없었습니다. 그러니 37번 문에 자동차가 있을 확률은 100분의 99입니다. 문이 세 개일 때도 원리는 똑같고, 다만 차이가 3분의 1과 3분의 2로 작아서 덜 분명해 보일 뿐입니다.

조건이 바뀌면 답도 바뀐다

몬티 홀 문제의 답이 3분의 2가 되려면 중요한 조건이 있습니다. 사회자가 자동차의 위치를 알고 있어야 하고, 언제나 염소 문을 열어야 하며, 언제나 바꿀 기회를 줘야 합니다. 만약 사회자도 자동차 위치를 모른 채 남은 문 하나를 아무렇게나 열었는데 우연히 염소가 나온 것이라면, 이때는 바꾸든 그대로 두든 정말 반반입니다. 사회자가 정보를 가지고 문을 골랐다는 사실이 확률을 바꾸는 열쇠입니다. 또 사회자가 참가자가 자동차를 골랐을 때만 바꿀 기회를 준다면, 바꾸라는 제안 자체가 함정이 됩니다. 확률 문제에서 조건 하나가 답을 완전히 바꿀 수 있다는 것을 보여 주는 좋은 예입니다.

베이즈 정리로 다시 보기

몬티 홀 문제는 조건부 확률을 다루는 베이즈 정리로 계산해도 같은 답이 나옵니다. 내가 1번 문을 골랐고 사회자가 3번 문을 열었다고 해 봅시다. 자동차가 1번에 있을 때 사회자가 3번을 열 확률은 2번과 3번 가운데 하나를 고르는 것이니 2분의 1입니다. 자동차가 2번에 있다면 사회자는 1번도 2번도 열 수 없으니 반드시 3번을 엽니다. 자동차가 3번에 있다면 사회자는 3번을 열 수 없으니 확률은 0입니다.

사회자가 3번을 열었다는 사실을 알게 된 지금, 가능한 경우는 첫째 줄과 둘째 줄뿐입니다. 두 값을 비교하면 6분의 1 대 3분의 1, 즉 1 대 2입니다. 그러니 자동차가 1번에 있을 확률은 3분의 1, 2번에 있을 확률은 3분의 2가 됩니다. 사회자의 행동이 무작위가 아니라 자동차 위치에 따라 달라지기 때문에, 그 행동 자체가 정보가 되는 것입니다. 이 표를 이해하면 사회자가 위치를 모르는 경우 답이 왜 달라지는지도 같은 방식으로 따져 볼 수 있습니다.

비슷한 구조의 다른 문제들

몬티 홀 문제와 똑같은 구조를 가진 오래된 문제들이 있습니다. 1959년 수학 저술가 마틴 가드너가 소개한 세 죄수 문제가 대표적입니다. 세 죄수 가운데 한 명만 사면되는데, 한 죄수가 간수에게 다른 두 사람 가운데 처형될 사람 한 명의 이름을 알려 달라고 부탁합니다. 이름을 들은 죄수는 이제 자기가 살 확률이 2분의 1로 올랐다고 기뻐하지만, 실제로는 여전히 3분의 1이고 이름이 불리지 않은 다른 죄수의 확률이 3분의 2가 됩니다. 몬티 홀 문제에서 처음 고른 문의 확률이 변하지 않는 것과 같은 원리입니다.

그보다 더 오래된 베르트랑의 상자 역설도 있습니다. 금화 두 개가 든 상자, 은화 두 개가 든 상자, 금화와 은화가 하나씩 든 상자 가운데 하나를 골라 동전 하나를 꺼냈더니 금화였다면, 같은 상자의 나머지 동전도 금화일 확률은 얼마일까요? 많은 사람이 2분의 1이라고 답하지만 정답은 3분의 2입니다. 금화가 나올 수 있는 경우를 동전 하나하나로 세어 보면, 세 개의 금화 가운데 두 개가 금화 상자에 들어 있기 때문입니다.

실제 게임쇼에서는 어땠을까

재미있게도 몬티 홀 본인이 진행한 실제 게임쇼는 이 문제와 조금 달랐다고 알려져 있습니다. 몬티 홀은 1991년 언론 인터뷰에서, 쇼에서는 출연자에게 늘 바꿀 기회를 준 것이 아니었고 상황에 따라 다르게 진행했다고 설명했습니다. 사회자가 출연자가 자동차를 골랐을 때만 바꿀 기회를 준다면, 바꾸는 쪽은 언제나 손해가 됩니다. 문제의 답이 사회자의 규칙에 달려 있다는 앞의 이야기를 실제 게임쇼가 그대로 보여 준 셈입니다. 수학 문제로서의 몬티 홀 문제는 사회자가 언제나 염소 문을 열고 언제나 바꿀 기회를 준다는 규칙을 분명히 정해 놓은 것입니다.

직접 해 보면 금방 믿게 된다

결국 가장 설득력 있는 방법은 직접 해 보는 것입니다. 친구와 카드 세 장으로 해 볼 수도 있습니다. 한 사람이 사회자가 되어 에이스 한 장과 다른 카드 두 장을 뒤집어 놓고, 다른 사람이 한 장을 고르면 사회자가 에이스가 아닌 카드 한 장을 뒤집어 보여 줍니다. 이것을 서른 번쯤 반복하며 바꿨을 때와 안 바꿨을 때 이긴 횟수를 따로 세어 보면 바꾸는 쪽이 눈에 띄게 많이 이깁니다.

시간이 부족하다면 몬티 홀 실험에서 직접 문을 고르며 해 보거나, 바꾸는 전략과 그대로 두는 전략으로 1,000번을 한꺼번에 돌려 비교해 보세요. 결과가 3분의 1과 3분의 2 근처로 모이는 것을 보면 머리보다 눈이 먼저 수긍하게 됩니다. 확률이 숫자로는 알아도 몸으로는 잘 와닿지 않는다면 확률 체감하기에서 퍼센트별로 직접 뽑아 보는 것도 도움이 됩니다.

정리하면

몬티 홀 문제에서 바꾸면 이길 확률이 3분의 2인 이유는, 처음 고른 문이 맞았을 확률 3분의 1이 사회자가 문을 연 뒤에도 그대로이기 때문입니다. 나머지 3분의 2는 사회자가 남겨 둔 문 하나에 모입니다. 문을 100개로 늘려 생각하면 바꾸는 쪽이 유리하다는 것이 훨씬 분명해집니다. 그리고 이 답은 사회자가 모든 것을 알고 반드시 염소 문을 연다는 조건 위에서만 성립합니다. 확률은 남은 선택지의 수가 아니라, 그 선택지가 어떻게 남게 되었는지에 따라 정해진다는 것이 이 문제가 주는 가장 큰 교훈입니다.

자주 묻는 질문

남은 문이 두 개니까 반반 아닌가요?

남은 문이 둘이라고 확률이 늘 반반인 것은 아닙니다. 사회자가 자동차 위치를 알고 일부러 염소 문을 열었기 때문에, 두 문은 같은 조건이 아닙니다. 처음 고른 문은 3분의 1, 남은 문은 3분의 2입니다.

바꾸면 반드시 이기나요?

아닙니다. 바꾸면 세 번 가운데 두 번 이기고, 처음 고른 문을 지키면 세 번 가운데 한 번 이깁니다. 한 번의 게임에서는 바꿔도 질 수 있습니다.

몇 번 해 보면 확인할 수 있나요?

열 번 정도로는 운에 따라 결과가 흔들립니다. 몬티 홀 체험 도구의 자동 실행으로 천 번쯤 돌려 보면 바꾸는 쪽의 승률이 67% 가까이 모이는 것을 볼 수 있습니다.

문이 네 개라면 어떻게 되나요?

문 네 개에서 사회자가 염소 문 하나를 열면, 처음 고른 문은 4분의 1, 남은 두 문은 각각 8분의 3이 됩니다. 문이 많을수록 바꾸는 쪽이 더 유리해집니다.