[자연과학]미적분의 주인, 뉴턴이냐 라이프니츠냐…‘수학자들의 전쟁’

◇ 수학자들의 전쟁/이광연 지음/260쪽·1만3000원·프로네시스

뉴턴(1642∼1727)과 라이프니츠(1646∼1716). 두말할 것 없이 유명한 영국과 독일의 수학자고 과학자다. 이들의 공통점은 뭘까. 미분법을 발명했다는 것이다.

미분법은 현대 수학의 가장 기본 개념이다. 자연과학 공학 사회과학 인문과학에서까지 널리 쓰인다. 함수의 최댓값 최솟값을 구하고 물체의 운동, 사물의 변화 현상을 분석하기 위한 필수 개념이다. 수학에서 새로운 이론을 발표하면 ‘발견’이라고 말하지만 미적분은 ‘발명’이라는 찬사를 받았다고 한다.

발명은 한 사람 또는 집단에 돌아가는 영광이다. 한 하늘에 두 태양이 있을 수 없다. 그런데 멀리 떨어져 독립적으로 연구를 하던 두 천재가 비슷한 시기에 똑같은 세계적 발명을 했다. 이 책은 이 ‘비극’에서 시작된 논쟁 시기 질투를 오밀조밀 기록했다.

한서대 수학과 교수인 저자는 세계적 발명을 둘러싼 수학자들의 싸움, 역사상 가장 중요한 지적재산권 다툼이 국내에 소개되지 않은 게 안타까웠다. 저자는 당대 문헌, 학자들이 주고받았던 편지를 바탕으로 이 세기의 다툼을 재구성했다.

뉴턴이 라이프니츠보다 미분법 아이디어를 먼저 떠올린 것은 맞다. 뉴턴은 라이프니츠보다 앞서 유율법(流率法) 관련 논문을 쓰기 시작했다. 유율은 미분의 다른 이름이다. 라이프니츠는 1675년에 미분 아이디어를 떠올렸다. 다음 해인 1676년 두 천재는 편지를 주고받으며 조심스럽게 미분 아이디어를 공유하고 상대의 연구를 격려한다.

이 편지가 싸움의 빌미가 된다. 뉴턴은 나중에 이 편지에서 자신이 미분 관련 아이디어를 라이프니츠에게 얘기했고 라이프니츠가 이를 가로챘다고 주장한다. 라이프니츠가 미분법을 세상에 공표한 것이 1684년이니, 얼핏 이 주장은 그럴듯하게 들린다. 그러나 라이프니츠는 자신의 연구는 뉴턴의 이론과 독립적으로 진행됐고 미분법을 뉴턴보다 먼저 공표했으니 우선권이 자신에게 있다고 맞받아친다. 뉴턴은 그때까지 미분법 논문을 발표하지 않았다.

두 천재의 싸움은 기실 영국과 유럽 대륙의 자존심 싸움이었다. 이들의 싸움을 부추긴 사람도 당대 최고라 불렸던 수학자들이다. 뉴턴은 라이프니츠가 자신의 이론을 모방하지 않았다는 것을 알았지만 라이프니츠의 이론이 칭송받자 표절 시비를 제기했다. 영국학술원은 라이프니츠가 도덕적으로 비열할 뿐 아니라 중대한 잘못을 저질렀다고 판결했다. 화가 난 라이프니츠는 이에 반박하는 책을 쓰다가 세상을 떠났다.

당시 이 싸움의 승자는 누구일까. 저자는 “라이프니츠는 잃었고 뉴턴은 얻었다”고 말한다. 당시 라이프니츠의 미분법이 뉴턴의 유율법보다 유용하게 쓰이고 있었는데 싸움이 터졌다는 것이다. 저자는 어떻게 생각할까. 저자는 수학적 정의의 완벽함은 뉴턴에게, 미분학 기호의 편리성과 이론 전개는 라이프니츠에게 있다고 말한다.

저자는 이 싸움을 천재들의 욕망 분노 공명심이 뒤섞인 싸움이라고 본다. 싸움이 없었으면 수학이 훨씬 발전했을 것이라고도 말한다. 그러나 싸움 구경은 언제나 재미있다.

윤완준 기자 zeitung@donga.com