[새책]현상금 11억걸린 수학문제 아십니까

▼'골드바흐의 추측' 아포스톨로스 독시아디스 지음/생각의 나무▼

“2보다 큰 모든 짝수는 두 소수(素數)의 합으로 나타낼 수 있다.”

수학자 골드바흐가 1742년 동료 오일러에게 적어보낸 ‘골드바흐의 추측’. 아직 증명되지 않았으므로 ‘추측’이다. 1995년에야 비밀을 벗은 ‘페르마의 마지막 정리’와 더불어 수학사상 가장 증명하기 어려운 난제 중 하나로 꼽혀왔다.

수학을 소설 형식에 접목시켜 독자의 흥미를 유도하고자 한 책은 그동안 여럿 등장했다. 이 소설은 현대 수학의 물줄기를 돌려놓은 일련의 성과들을 이해하기 쉽게 한 줄기로 꿰었다는 점에서 더욱 매력적이다. 수학의 미해결 난제 중 가장 뜻을 알기 쉬운 ‘골드바흐의 추측’을 주된 소재로 끌어들였다는 점에서부터 그렇다.

라마누잔, 괴델, 튜링 등 현대 수학의 거장들이 허구의 주인공 페트로스의 삶을 이리저리 얽어매는 동안, 독자는 영화 ‘포레스트 검프’를 보는 것과 같은 재미도 느낄 수 있다.

주인공은 과수원을 돌보며 동생들로부터 인간 폐물 취급을 받는 페트로스. 그의 조카인 ‘나’는 우연한 기회에 그가 촉망받는 수학자였음을 알게 되고, 실패한 그의 삶을 추적하게 된다.

젊은 시절, 실연의 아픔을 성공으로 잊기 위해 ‘골드바흐의 추측’에 도전한 페트로스는 경쟁자 라마누잔의 죽음마저 기쁨으로 받아들일 만큼 증명에 집착한다. 연구 중의 부산물로 ‘분할 이론’에 대한 중요한 정리를 증명하는 성과도 올리지만, 누군가가 그 증명을 사용해 ‘골드바흐의 추측’을 먼저 증명할까 봐 덮어놓고 있다가 남에게 분할 이론 증명의 영예마저 빼앗긴다.

어느 날 ‘참인 명제도 항상 증명 가능한 것은 아니다’라는 괴델의 ‘불확정성 원리’를 알게 된 뒤 ‘골드바흐의 추측’도 결국 증명할 수 없는 것 아닌지 회의에 빠지기 시작한 그는, 케임브리지대에서 알게 된 젊은 천재 튜링이 “어떤 명제가 증명 가능한지 여부는 증명해 보기전에는 선험적으로 알 수 없다”는 사실까지 증명해 내자 자포자기에 이른다. 그러나 조카인 ‘나’는 만년의 고요한 생활에 잠겨 있는 페트로스를 끊임없이 자극한다. “삼촌이 꿈을 이루지 못한 것은 불운 때문이 아니었어요. 괴델과 튜링도 포기의 핑계를 삼기 위한 ‘신 포도’였다고요!” 어느날 ‘나’는 ‘증명에 성공했다’라는 페트로스의 흥분에 찬 전화를 받게 되는데….

수학에 흥미가 없는 사람에게라면 이 책이 한낱 암호풀이에 불과할까. 불가능한 일에 도전하면서 세속적 보상을 기다리지 않는 외곬수들의 삶. 그것이 실은 세상을 움직여온 동력임을 이 책은 일깨워준다. ‘220과 284는 친구다. 한 수의 약수의 합이 다른 수와 같다’ 는 등, 수 많은 자연수들의 특징을 속속들이 꿰고 있는 수학자들의 세계를 들여다보는 것 만으로도 이 책은 충분한 즐거움을 안겨준다.

이 책을 낸 영국의 파버 앤 파버 사는 ‘골드바흐의 추측’을 증명하는 독자를 상대로 100만달러 (약 11억원)의 현상금을 내걸고 있다. 정희성 옮김. 272쪽 7500원.

<유윤종기자> gustav@donga.com