[김재호의 과학 에세이]자릿수만 2000만개… 50번째 메르센 소수 찾았다

일러스트레이션 김수진 기자 soojin@donga.com

김재호 과학평론가

‘7번방의 선물’, ‘13일의 금요일’, ‘59년 왕십리’, ‘프로듀스 101’, ‘1987’의 공통점은 무엇일까? 모두 숫자가 들어간 영화와 노래, 예능 프로그램의 제목들이다. 그런데 이 숫자들이 평범하지 않다. 왜냐하면 전부 소수(素數·a prime number)이기 때문이다. 소수는 1과 자기 자신만으로 나눠지는 수다. 즉, 1과 자기 자신만을 약수로 갖는다.

소수는 숫자가 점점 커지며 계속 나타난다. 그런데 약 2년 만에 그 기록이 깨졌다. 바로 최대 자릿수의 소수 얘기다. M77232917(메르센 소수·2의 7723만2917제곱에서 1을 뺀 수)라고 불리는 50번째 최대 소수는 2324만9425개의 자릿수를 갖고 있다. 3일 메르센 소수 찾기 웹사이트(www.mersenne.org)에 공식 발표된 소수는 기존의 자릿수보다 91만807개나 더 많다.

미국 테네시주의 전기 기사인 조너선 페이스(51)는 14년 동안 메르센 소수를 찾아 헤맸다. 그는 메르센 소수를 찾는 소프트웨어 ‘Prime95’를 구동시켜 결국 최대 자릿수의 소수 기록을 깼다. 이 숫자가 얼마나 큰지, 출력을 하면 대략 9000쪽에 달한다. 또한 2자릿수를 1cm로 가정하면 서울에서 충북 청주 정도의 거리에다 늘어놓아야 할 정도다.

숫자는 지난해 12월 26일 찾았으나, 소수임을 검증하는 데만 밤낮없이 6일이나 걸렸다. 4명의 전문가가 각기 다른 성능의 4군데 하드웨어에서, 각기 다른 4가지 소수 검증 소프트웨어로 그 결과를 테스트했다. 페이스는 상금으로 3000달러를 받았다. 50번째 메르센 소수 발견자로 공식 등록된 이름엔 소프트웨어 개발자 2명도 함께 올랐다.

소수는 숫자가 커질수록 패턴이 없다. 따라서 알고리즘을 활용하기가 쉽지 않다. 이 때문에 엄청나게 큰 메르센 소수는 암호화에 사용될 수 있다. 2개의 소수를 묶어서 암호 키로 설정해 두면 외부에서 풀어내기 어렵다. 예를 들어, 웹에서 이뤄지는 거래에서 신용카드 번호를 안전하게 전송할 수 있는 이유는 RSA 암호의 공개 키 덕분이다. RSA 암호는 두 개의 소수를 기반으로 하며, 전자거래상 보안을 위해 중요하다. 일반 컴퓨터의 성능이 계속 좋아지고 있기 때문에 암호로서의 소수가 더욱 커져야 보안이 확보된다.

1644년 프랑스의 수도사, 철학자이자 수학자인 마랭 메르센(1588∼1648)은 소수의 형태가 2의 거듭제곱에서 1을 뺀 수로 나타난다고 밝혔다. 예를 들어, 2의 세제곱에서 1을 빼면 소수인 7이다. 메르센은 거듭제곱이 2, 3, 5, 7, 13, 17, 19, 31, 67, 127, 257일 때에 소수가 된다고 설명했다. 이러한 규칙을 갖는 소수들이 현재까지 계속 발견되고 있다.

메르센은 르네 데카르트와 동기생이었고, 블레즈 파스칼의 스승이기도 했다. 메르센은 당대의 내로라하는 학자들과 서신을 주고받으며 과학, 철학에 대한 연구에 집중했다. 그중엔 갈릴레오 갈릴레이도 있었다.

수학사는 소수의 규칙과 그 특징을 파악하려는 노력이었다고 해도 과언이 아니다. 소수의 빈도수, 2의 차로 나타나는 소수 2개의 짝(3과 5, 599와 601 등), 소수의 덧셈으로 나타낼 수 있는 짝수의 세계(8은 3과 5의 합, 14는 3과 11의 합 등), 가장 중요한 소수의 존재가 지닌 무한성 등이다. 여기서 중요한 건 소수의 규칙들이 증명되지 못하고 가설과 추측으로 남아 있다는 사실이다. 소수는 인류가 도전해야 할 미지의 세계다.

그 옛날 기하학의 아버지 유클리드는 처음으로 소수를 정의했고 소수가 무한히 많다고 예언했다. 소수는 기본, 토대, 본래라는 뜻을 가지고 있다. 소수가 다른 수들로 나눠지지 않는다는 건 그만큼 뚝심이 있다는 의미다. 고매한 소수를 알아가는 건 유한한 인간이 무한한 자연을 이해하기 위한 출발선이다. 기초과학의 시작이다.

어떤 숲에 사는 매미의 종은 수명이 각각 13년과 17년이다. 소수로 나타나는 이 기간 동안 땅속에 있다가 지상에 나타나 6주간 짝짓기를 한다. 13년과 17년이라는 시간 동안 서로 겹치지 않게 출현하여 먹이와 번식 등 과다 경쟁을 피하기 위한 전략이다. 특히 포식자로부터 피하기 위한 진화적 노력이기도 하다. 그 중심에 소수가 있다.

다음의 두 숫자가 소수인지 종이와 연필만으로 판별해 보자. 1만2893과 4만9337. 작은 호기심이야말로 창의성의 원천이다. 이로부터 당신이 51번째 메르센 소수 발견자로 등록되게 될지 모를 일이다.

김재호 과학평론가