[자연과학]‘죄수의 딜레마’… “삶은 게임”

◇죄수의 딜레마/윌리엄 파운드스톤 지음 박우석 옮김/424쪽·1만5800원·양문

◇죄수의 딜레마/윌리엄 파운드스톤 지음 박우석 옮김/424쪽·1만5800원·양문

범죄를 같이 저지른 당신과 동료가 붙잡혔다. 둘은 서로 의사소통이 불가능한 독방에 각각 갇혔다. 경찰은 당신들의 죄를 입증하지 못해 경미한 혐의만으로 1년 형에 처할 수밖에 없다. 그때 경찰이 당신과 동료에게 협상안을 제시했다. “만약 당신이 동료의 죄를 증언하고 동료가 말하지 않는다면 당신은 석방되고 동료는 3년 형을 받을 것이다. 당신과 동료가 모두 서로의 죄를 인정하면 둘 다 2년 형을 받고, 둘 다 묵비권을 행사하면 1년 형에 그친다.” 당신과 동료는 자신의 결정을 내릴 때까지 서로의 결정을 알지 못하며 동료가 똑같은 제안을 받고 있다는 이야기만을 듣는다. 당신은 어떻게 하겠는가.

당신과 동료에게 가장 좋은 선택은 증언을 하지 않고 1년 형을 받는 것이다. 그러나 이를 위해서는 동료가 자백하지 않는다는 믿음이 있어야 한다. 문제는 당신과 동료 모두 각자의 이익을 최우선으로 생각하기 때문에 그런 믿음이 없다는 것이다. 당신은 자백하지 않았는데 동료가 말을 한다면 당신은 3년 형을 받아야 한다. 당신은 말을 했는데 동료가 자백하지 않았으면 당신은 풀려나고, 동료가 말을 했어도 2년 형만 받으면 된다. 따라서 당신의 선택은 자백하는 것이다.

바로 여기서 죄수의 딜레마가 발생한다.

이익이 갈등을 일으키는 상황에서 등장하는 죄수의 딜레마는, 상대가 자신의 이익을 최우선적으로 추구할 때 역시 자신의 이익을 추구하는 당사자에게 합리적 최선의 전략은 협조보다는 변절이라고 말한다.

1950년 미국 최초의 싱크탱크라 할 수 있는 ‘랜드 회사’의 두 과학자 메릴 플러드와 멜빈 드레셔가 발견하고 랜드 회사의 자문역인 앨버트 터커가 다듬은 죄수의 딜레마는 게임이론의 대표 격이다.

이 책은 자신의 이익을 최대화하려고 하는, 합리적이지만 서로 신뢰하지 않는 존재들 간의 갈등에 관한 연구인 게임이론을 만든 천재 수학자 폰 노이만(1903∼1957)의 전기이면서 게임이론이 냉전과 핵무기 경쟁에서 한 역할에 관한 사회사적 기록이다.

죄수의 딜레마를 가장 잘 드러내는 것은 제2차 세계대전 이후 냉전 시기에 발생한 미국과 소련의 핵무기 경쟁이다. 양국은 원자폭탄보다 파괴력이 훨씬 큰 수소폭탄 제조에 나섰다. 그러나 수소폭탄 제작은 비용이 많이 들어 상대적으로 국가의 빈곤을 초래하며, 국민의 불안감만 가중시킨다. 이처럼 양국이 얻을 수 있는 것은 거의 없는데도, 즉 제조를 보류만 하면 서로 이익이 되는 상황에서도 군사적 우위에 대한 유혹 또는 수소폭탄을 보유하지 못해 약자가 된다는 공포 때문에 경쟁에 돌입했다. 이 딜레마의 핵심은 누구도 자명하게 우위를 점할 수 없는 경쟁이 계속된다는 것이다.

이런 딜레마를 일찌감치 없애기 위해 아직 수소폭탄을 제조하지 못한 소련을 공격해 무력하게 만들자는 ‘예방전쟁론’을 폰 노이만이 주장했다는 것은 어쩌면 시대의 아이러니라고 할 수 있다.

죄수의 딜레마는 국제문제뿐만 아니라 일상생활에서도 찾아볼 수 있다. 가장 흔한 유형은 ‘무임승차 딜레마’다. 표를 사서 지하철을 타는 것이 자치단체의 재정에 도움이 되어 결국 세금도 절약하고 대중이 좋은 시설의 혜택을 받을 수 있도록 하는 일이다. 그러나 무임승차자는 그 신뢰를 저버린 채 ‘변절’을 하고 대중 속으로 숨어버린다.

저자는 ‘적을 동료로 보는 능력’을 갖는다면 통상적인 죄수의 딜레마가 훨씬 덜 골치 아픈 게임으로 바뀔 것이라고 말한다. 저자는 책 첫 장 말미에 ‘죄수의 딜레마에서 공동선을 촉진하는 방법은 있는가’라고 묻고는 마지막 장 끝에 스스로 답하고 있다.

‘인류의 장기적 생존은, 우리가 지금 하고 있는 것보다 더 많은 협조를 촉진하는 방법을 고안해내는 데 달려 있다고 본 점에서 폰 노이만은 아마도 옳았을 것이다.’

원제:‘Prisoner's Dilemma’(1992년).

민동용 기자 mindy@donga.com