[이 남자의 경쟁력]⑭ 수학자 김정한의 ‘사랑’

세계적인 수학자인 김정한 교수는 최근 국가수리과학연구소 소장으로 취임했다. 동아일보 자료사진

미국 시애틀 마이크로소프트 기술연구소 연구원 시절의 김정한 박사. 동아일보 자료사진

1983년 봄, 서울 연세대 신촌 캠퍼스.

수학과 강의실에 물리학과 3학년 남학생이 청강생으로 참석했다. 지적 호기심 왕성한 수재의 이미지가 연상되지만, 정작 그의 시선은 칠판보다 한 여학생에 고정돼 있었다. 입학식 때 보고 첫 눈에 반해 짝사랑해온 여학생을 보러 강의실까지 좇아온 것이다.

제2의 아인슈타인을 꿈꿨던 물리학도가 수학과 인연을 맺게 된 계기는 다름 아닌 순정이었다. 그녀에 대한 사랑이 깊어질수록 수학에 대한 사랑도 무르익었고, 4학년 때는 아예 수학과로 진로 변경을 심각하게 고민하게 된다.

그때 그 남학생이 지금은 세계적인 수학자가 된 김정한(46.연세대 수학과) 교수다. 이후 인생의 반려자가 된 그녀는 인생의 결정적 고비마다 그에게 수학적인 영감을 건넸다.

"흔히들 치명적인 사랑이라고 하잖아요. 운명적 상대를 한눈에 알아보는 것. 아내를 만날 때처럼 수학을 만날 때도 그랬어요. '아, 이거구나' 하는 생각. 수학과 평생 같이 있고 싶다는 생각이 들었지요. 수학과 아내 중 어느 쪽이 더 좋으냐고 물어보면 좀 곤란할 때도 있어요.(웃음)"

연세대에서 수학 석사학위를 받은 그는 미국 뉴저지주립대로 유학을 떠나 조합론 연구로 1993년 박사학위를 받았다. 1995년 김 교수는 60년이 넘은 조합론 분야의 난제를 증명해낸 램지 이론을 발표했고 이 업적을 인정받아 1997년 전산수학 분야의 최고상이라 일컫는'풀커슨상'을 받았다.

이 상은 3년에 한번 열리는 국제수학회가 이산수학(전산학의 기초가 되는 수학) 분야의 가장 뛰어난 논문에 주는 상이다. 보통 2~3명이 공동 수상하는데 김 박사는 단독으로 수상했다. 또한 그는 아시아인 최초의 풀커슨상 수상자였다.

그는 AT&T 벨 연구소 연구원, 카네기멜론대 부교수를 거쳐 전 세계 최고의 과학자들이 모인다는 마이크로소프트(MS) 연구소에서 700명의 연구자 가운데 유일한 한국인으로 활약했다.

그런 그가 2006년 모교 교수로 한국에 돌아왔다. "미국에서 나 같은 연구자는 많지만 한국에는 부족하다"며 정체된 한국 이론수학의 발전에 기여하기 위해서였다.

현재 그는 이론수학과 첨단 기술(IT와 BT 등)의 합동연구를 총괄하는 국가수리과학연구소 소장으로도 일하고 있다.

▲ 정영준 동아닷컴 기자

● "한국에는 나 같은 연구자 부족하다"

흔히들 이론수학 분야는 천재들의 놀이터라고 생각하기 쉽다.

하지만 그의 이력을 따라가 보면 오히려 그는 평범한 축에 속한다. 어릴 적 수학시험에서 늘 만점을 받지도, '신동'이라 불리지도 않았다. 고등학교 때 성적은 전교 15등 정도였다고 한다.

학창시절에 가장 싫어했던 것은 시험을 위한 공부였다. 시험날짜와 범위가 정해져 버리면 자신이 원하는 공부를 할 수 없었기 때문이다. 그는 어릴 적부터 자유롭게 공부하고 깊숙하게 따져 생각하는 것을 즐겼다.

여기에는 집안 분위기도 큰 영향을 끼쳤다. 그의 어머니는 논리적으로 생각하고 정확하게 표현하는 것을 중요시 여긴 것. 이른바 생활 속에서 수리의 기초를 놓아 준 것이다.

"어머니는 식탁에 반찬을 놓을 때도 어떻게 놓는 게 좋은지 설명해 주셨죠. 다른 많은 일에 대해서도 그 이유를 논리적으로 설명해 주셨고요. 그런 게 저의 수학적 사고에 깊은 영향을 미쳤던 것 같아요."

그의 어머니의 교육법을 따라 그 역시 자녀들에게 비슷한 교육법을 적용했다. 예를 들어 자녀들에게 물 컵을 하나 부탁할 때도 "OO야, 부엌 찬장 두 번째 칸에 파란색 물 컵을 가져다 주렴"하고 말하는 식이다.

특히 그가 강조한 것은 정확한 표현법이었다. 한국어는 습관상 중의적인 표현이 잦고 주어가 생략되는 등 논리적 비약이 존재하기도 한다. 이게 반복되다 보면 개념 정립이 쉽지 않다는 것이 그의 지적.

"개념과 단어를 일치 시키는 게 수학이잖아요. 정확한 단어를 올바르게 사용하려 노력하다보면 이해도 빠르고 논리적 사고를 하기 쉽습니다. 사실 수학이란 사고의 방법론일 뿐 문제를 푸는 학문이 아니에요."

이론 수학자의 연구 방법은 끊임없이 사고(思考)하는 것이다. 그가 추구하는 연구 패턴은 스스로 레슬링 용어에서 차용해 '무제한 완폴제 (폴승 매치¤한판 승부)'라고 부르는 연구다. 한 달도 좋고 두 달이라도 상관이 없었다. 한 가지 문제를 놓고 시간에 구애받지 않고 스스로 납득할만한 수준까지 사고를 진전시키는 것이 유일한 해답이었다. 실제 그에게 풀커슨상의 영예를 안겨준 이론은 새벽 5시에 일어나 떠오른 착상을 휴지에 적어놓은 데서 비롯됐다고 한다.

이런 얘기는 사실 이론 과학자들에게는 일상적인 연구 패턴이다. 하지만 대부분의 사람들에게 수학은 특수 영역이고 심지어 공포의 대상이기까지 하다. 때문에 수학자를 만나면 터무니없는 '경외감'을 갖거나 '수학을 잘하는 비결'같은 단순한 질문을 던지는 것이 보통이다. 그도 한국에 돌아온 뒤 끊임없이 '수학의 비법'에 대한 질문을 받았다고 한다.

● 수학의 비법이란 정답을 버릴 때 나온다

"사실 그런 질문을 받을 땐 '그런 싸구려를 바라지 말라'고 쓴 소리를 하기도 합니다."

물론 그렇다고 해서 비법이 없는 것도 아니다.

"수학은 조급하게 생각한다고 해서 답이 얻어질 수 없는 학문이에요. 수학이란 원리(原理)를 찾는 학문인데, 원리가 피상적으로 이해가 된다는 게 난센스인 거죠. 때문에 이해할 때까지 생각하는 거죠. 문제지 뒤편에 적힌 답을 좇아서는 수학이 늘 수가 없어요. 성경책을 많이 본다고 크리스천이 되는 게 아니라 깨달음의 순간이 필요한 것과 마찬가지에요."

그에게 수학이란 문제풀이가 아니라 '신념을 갖게 하는 트레이닝'이자 '신념을 검증해 주는 시스템'에 가깝다.

"사실 복잡한 사회에서 누구나 수학적 프로세스를 기반으로 사고하고 행동하게 됩니다. 하지만 그 정답은 누구도 알 수가 없는 영역이거든요. 오히려 답을 창조해야 하는 것에 가깝습니다. 정답만을 추구하는 사회는 발전이 있을 수 없습니다."

최근 들어 금융 IT 전자 마케팅 등 산업 전반에서 수학의 수요가 확산되고 있다. 미국에서 수학 전문가는 상위 10위에 드는 유망 고소득 직종으로 꼽힌다.

반면 국내 수학교육의 현실은 어떨까. 10대까지만 해도 곧잘 수학 영재들이 두각을 나타내다가도 일단 대학생이 되고나면 언제 그랬냐는 듯 사라져버린다. 대학 진학 이후 수학에 애정을 갖고 공부했다는 사람도 찾기 힘들다.

김 교수가 생각하는 한국 수학교육의 문제점은 무엇일까?

"학생들 스스로가 두려움을 갖고 학문을 대한다는 거죠. 사실 수학뿐만 아니라 거의 모든 분야가 공포 보다는 사랑해서 해야 잘 할 수 있습니다. 두려움으로 접근할 경우 그것이 사라지는 순간 멀리하게 되거든요. 우리 대입제도 자체가 수학을 멀리하는 시스템이 된 거죠. 요즘에는 취업이라는 공포기제를 재활용하더군요. 이래서 어찌 대학 교육이 살 수 있겠어요?"

가시적인 성적에 대한 욕구가 팽배해 있으니 기초과학의 뿌리가 탄탄해 질 수 없다. 이공계 탈출 현상도 모두 이처럼 '눈에 보이는 것만을 추구하는 세태'와 무관치 않다

그의 전공인 조합론이 활용되는 분야가 바로 컴퓨터 알고리즘 분야다. 이는 수많은 정보가 오가는 인터넷 세상에서 거미줄처럼 얽힌 네트워크를 활용해 가장 신속정확하게 정보를 처리하고 찾아내는 분야로 확대 적용된다.

덕분에 김 교수는 미국의 AT&T 벨연구소에서 약 4년간, 마이크로소프트에서 약 10년간 연구원으로 활약했다. 정보통신 분야의 기초가 바로 수학이기 때문에 적잖은 천재들이 이 분야에 뛰어들어 막대한 부와 명예를 쌓았다.

그는 이 같은 환경에서 세계적인 두뇌들과 경쟁하며 젊은 시절을 보냈다. 아쉬운 점은 이 같은 분야에서 일하는 한국인들의 숫자가 많지 않았다는 점이다. 그가 40대에 한국에 복귀한 계기도 수학에 대한 이 같은 편견과 오해를 극복해 내기 위해서다.

"제자들에게 주위 환경에 영향 받지 말고 자신이 좋아하는 것을 하라고 강조합니다. 자기가 좋아하는 일을 해야 행복하거든요. 사랑하면 신념이 생기고 그렇게 되면 자연스럽게 성공에 이른다고 생각합니다."

● 신념이 없는 사람은 성공할 가능성도 없다

그가 가장 존경하는 인물은 수학자나 과학자가 아닌 미국의 흑인 인권운동가 마틴 루터 킹 목사란다. 의외의 답변이지만 그의 수학 인생에는 일관되게 '사랑과 신념'의 방정식이 스며들어 있다.

"마틴 루터 킹은 최악의 순간에도 비폭력을 견지한 진정한 의미의 혁명가이자 철학자였어요. 철학이 뒷받침 되지 않은 혁명이 가능한가요? 불가능합니다. 수학도 마찬가지에요. 세상을 움직이는 창의적인 사고는 세상을 향한 미칠 듯한 사랑에서 나올 수밖에 없고, 그 사랑은 바로 절대 변치 않는 신념이 뒤따라야 합니다. 물론 신념이 틀릴 수도 있지만 그 조차 없는 사람은 절대 성공할 가능성이 없는 사람이 아닐까요? 마틴 루터 킹의 인생이 좋은 예라고 할 수 있어요."

실제 그는 혁명가처럼 "후회는 끝까지 해보지 않았을 때 가장 크다"며 도전과 응전의 수학자의 길을 걸어왔다. 물론 그 원천은 절대 변치 않는 원리에 대한 사랑과 신념이었다.

그는 아직도 자신의 첫사랑인 아내에게 사랑을 허락받았던 순간을 기억한다. 수학과 강의실까지 따라온 그의 구애를 차갑게 대했던 그녀는 1년 뒤인 4학년 때 대학 도서관에서 만난 그에게 갑자기 인사를 건넸다.

그리곤 김 교수의 수학책을 가져가더니 아무 말 없이 자신의 옆자리에 놓았다. '옆에 앉아도 좋다'의 의미를 넘어 '당신의 마음을 받아들이겠다'는 뜻이었다. 1984년 5월 5일의 일이었다.

그가 평생 잊을 수 없는 날이자, 동시에 사랑의 방정식이 행복과 성공의 방정식으로 변하는 순간이었다.

정호재 기자 demian@donga.com

[관련기사]‘이 남자, 이 여자의 경쟁력’ 연재물 보기

▲[그 여자의 경쟁력]<15>정연주 아나운서 예고편