[김재호의 과학에세이]소수, 해석되지 않은 우주의 질서

일러스트레이션 김충민 기자 kcm0514@donga.com

김재호 과학평론가

심증은 있는데 물증이 없는 사건. 분명히 범인이 맞는데 증명할 길이 없다면 결국 무죄가 된다. 수학의 난제들도 마찬가지다. 지난달 리만 가설이 전 세계를 떠들썩하게 했다. 영국의 수학자 마이클 아티야 교수가 리만 가설을 증명했다고 주장했기 때문이다. 하지만 160년 동안 그 누구도 풀지 못한 리만 가설은 이번에도 증명되기 힘들다는 게 중론이다. 리만 가설은 소수의 규칙성을 확신하나 증명되지 못한 난제이다. 더욱 중요한 건 소수가 무한히 생성된다는 점이다.

소수 해명은 모든 수학자의 영원한 꿈이다. 소수의 개수가 무한하다는 것은 이미 증명됐다. 귀류법으로 말이다. 소수의 개수가 유한개라고 가정하고 거기에 1을 더해보자. 그 수는 유한개인 소수로 나누어 떨어지지 않는 숫자(소수)가 된다. 즉, 가정에 모순이 생기기 때문에 소수는 무한개인 것이다. 유클리드는 기하학 원론에서 소수의 개수는 이미 알려진 소수의 개수보다 많다고 확신했다.

수학자 카를 프리드리히 가우스(1777∼1855)는 소수들에 숨어 있는 규칙을 발견하는 건 쉽지만 왜 그런지 증명하기는 엄청 어렵다고 했다. 예를 들어 직관적으로 소수가 계속 나타나는 건 알겠으나 왜 그렇게 나타나는지는 알 길이 없다. 실제로 가우스는 소수의 분포와 로그함수의 상관관계를 밝혀냈으나 증명이 되지 않아 바로 발표하지 않았다. 또 슈퍼컴퓨터는 메르센 소수 등 그 값이 천문학적으로 큰 수가 소수인지 아닌지 확인하는 데 탁월하다. 그러나 소수의 발견에 규칙이 있는지 슈퍼컴퓨터든 인간이든 증명하진 못한다. 현상을 발견하는 것과 왜 그런 현상이 나타나는지 증명하는 건 차원이 다른 얘기다.

아직 풀리지 않은 ‘골드바흐의 추측’은 직관적으로 분명하다. 2보다 큰 짝수는 2개의 소수의 합으로 표시할 수 있다. 가령 10=3+7 혹은 10=5+5이다. 즉, 어떤 큰 짝수라도 두 개의 홀수인 소수의 합으로 나타낼 수 있다. 이는 귀납적으로 확인한 것뿐이다. 허나 현재 증명은 불가능하다.

1859년 가우스의 제자였던 베른하르트 리만(1826∼1866)은 소수의 비밀을 풀 수 있는 가설을 제안한다. 그는 소수에 규칙성이 있다고 확신했다. 그런데 불규칙적으로 나타나는 소수의 패턴이 소수들의 직접적인 간격이 아니라 다른 차원의 수의 집합에 있다고 생각했다. 가령 학교에선 존재감마저 없던 학생이 학교 밖에서 천재성을 발휘하는 것과 마찬가지다. 그런데 이 학생은 특이하게도 0시 당구장에서, 빨간 옷을 입은 상태에서만 천재성을 발휘하는 것으로 밝혀졌다. 왜 그런지는 모른 채 말이다.

리만 가설은 제타 함수의 영점 문제를 다룬다. 간단히 표현하면 제타 함수는 자연수들을 거듭제곱한 값들의 역수를 무한히 합한 것이다. 제타 함수의 입력 값이 1인 경우는 각 항의 역수가 일정한 차이를 이루는 조화급수다. 자연수를 모두 역수로 만들어 더한다고 생각하면 된다. 따라서 제타함수는 무한급수다. 리만은 제타 함수의 영점에 기반해 얼마나 많은 소수가 있고, 얼마만큼의 간격으로 소수가 발생하며, 언제 소수의 발견이 정지되는지 계산하는 공식을 만들었다.

리만의 위대함은 함수의 입력 값을 허수가 포함된 복소수로 확장했다는 점에 있다. 리만은 제타 함수 값이 0인 영점은, 즉 비자명적인 근들은 특정 선에 나타나는 것을 확인했다. 복소평면에서 실수 좌표가 2분의 1인 지점이었다. 소수의 분포가 무질서하지 않다는 증거다. 리만은 모든 영점이 이 특정 선에 놓여 있을 것이라고 가정했다. 이게 바로 리만 가설이다.

소수는 다양한 방식으로 표현이 가능하다. 소수는 다른 수를 만들어내는 바탕이 되는 수, 최고로 순수한 수, 자기 자신보다 작은 두 수의 곱으로 표현되지 않는 수, 1과 자기 자신만 약수로 갖는 수 등으로 정의된다. 소수는 2의 n제곱에서 1을 뺀 메르센 소수, 2의 2의 n제곱에서 1을 더한 페르마 소수, 서로의 차가 2인 쌍둥이 소수 등 다양한 방식으로 존재한다. 특히 소수는 기본 입자에 대비된다. 왜냐하면 소수가 아닌 수들을 일컫는 합성수(1을 뺀 나머지 자연수 중 소수가 아닌 수들)는 기본 입자가 만들어낸 물질이기 때문이다. 이런 기본 입자들이 무한하다고 상상해보자. 소수들이 모여 합성수가 되듯이 기본 입자들이 모여 세계를 구성한다.

소수의 규칙성을 밝혀내려는 노력은 무한의 개념에 도전하는 것과 같다. 유한한 인간이 무한한 세계를 이해하려는 것이다. 노벨 문학상 수상 작가 조제 사라마구는 혼돈은 아직 해석되지 않은 질서라고 적었다. 소수의 규칙은 혼돈스러워 보이나 아직 해석되지 않은 우주의 질서일 가능성이 높다.

　

김재호 과학평론가