조선 후기 실학자 홍정하가 지은 ‘구일집’의 일부. 산가지를 이용해 10차 방정식을 푸는 과정을 설명하고 있다. 막대기를 겹쳐 쌓아 놓은 모양이 산가지로 표시한 숫자다. 사진 제공 전용훈 씨
서울대 전용훈 연구원 ‘홍길주 풀이방법’ 소개
《수학에서 같은 수를 두 번 곱해 A가 되는 수를 ‘A의 제곱근’이라고 한다. 예를 들어 4의 제곱근은 2와 ―2, 9의 제곱근은 3과 ―3이다. 제곱근은 땅의 넓이나 그릇의 부피에서 한 변의 길이를 측정하는 데 활용된다. 지금까지 조선시대의 제곱근 계산 방법은 중국에서 영향을 받은 것으로 알려져 왔다. 얼마 전 19세기 우리 조상들이 독자적인 방법으로 제곱근을 계산했다는 연구결과가 나왔다.》
서울대 과학문화연구센터 전용훈 연구원은 19세기 초 유학자 홍길주(洪吉周·1786∼1841)가 나눗셈과 뺄셈만으로 제곱근을 구했다는 사실을 옛 문헌 조사 결과 확인했다고 밝혔다. 이 연구결과는 ‘과학사’ 분야의 권위지 ‘사이언스 인 콘텍스트’ 2월호에 소개됐다.
○ 중국의 셈법과 다른 독자적 방식
홍길주의 풀이법은 간단하다. 먼저 수를 반으로 나누고 나눈 값을 1부터 오름차순으로 뺀다. 9의 경우 반으로 나눈 값 4.5에서 1을 빼고, 남은 값 3.5에서 2를 빼는 식이다. 그렇게 더는 뺄 수 없을 때 남은 수를 2배한 뒤 그 수가 뺄 수와 같으면 제곱근이라는 것.
3.5에서 2를 빼고 남은 수 1.5는 3으로 더는 뺄 수 없고 이를 2배한 3이 빼려는 수 3과 같기 때문에 9의 제곱근은 3이 된다는 것이다. 이는 훗날 서양 수학에 등장하는 수열의 합을 구하는 공식과 유사한 독특한 풀이법이다.
그전까지는 중국에서 넓이 계산에 썼던 ‘개방술’의 영향이 컸다. 개방술은 어떤 수의 제곱근이 ‘A백B십C’라고 추측하고 A, B, C를 구하거나 방정식의 근사해를 이용하는 식으로 제곱근을 얻었다.
전 연구원은 “나눗셈과 뺄셈만 이용하는 이 풀이법은 ‘산학계몽’이나 서양수학을 담고 있는 ‘수리정온’에 근거한 중국의 전통과 결별한 새로운 방식”이라고 말했다. 홍길주 스스로도 자신의 저서 ‘숙수념(孰遂念)’에서 “바보가 아닌 이상 어린아이들도 쉽게 할 수 있는 풀이법”이라고 설명했다.
○ 소수점까지 계산… 세제곱근 이상도 가능
전 연구원은 “이런 계산법은 제곱근이 2.449…처럼 소수로 나오는 6과 같은 수에도 적용할 수 있을 정도로 응용하기 좋다”고 설명한다. 6의 경우 일단 100을 곱해 세 자릿수로 만든 뒤 같은 방식으로 계산하면 24보다 크고 25보다 작은 값이 나온다. 6의 제곱근을 구하려면 이 수를 100의 제곱근 10으로 다시 나눠주면 2.449…라는 수가 나온다는 것.
제곱한 숫자가 만 단위를 넘을 때도 얼마든지 쉽게 풀 수 있다는 게 전 연구원의 설명이다. 이런 방법으로 홍길주는 세제곱근, 네제곱근, 다섯제곱근의 풀이방법도 제시했다.
그는 제곱근 풀이 외에도 정수의 나머지 구하기(부정방정식), 원에 내접하는 다각형의 성질, 황금분할, 세 정수로 이뤄진 직각삼각형의 조합 등 현대 수학에 나오는 다양한 문제에 대한 독특한 풀이법을 함께 내놨다.
당시 조선의 수학은 어떤 수준이었을까. 서강대 수학과 홍성사(수학사) 교수는 “송나라와 원나라 때 이미 4차 이상의 고차방정식을 풀 수 있었으며 그런 전통이 조선으로 이어졌다”고 말한다. 넓이나 부피를 구하는 정도의 문제는 쉽게 풀 수 있었다는 얘기다.
○ 宋-元시대 고차방정식 해법 조선이 계승
당시 실록에 따르면 세종대에 이미 ‘산판(算板)과 산가지’를 활용해 제곱근은 물론 10차 방정식 해까지 구할 수 있었다.
실제로 상수항을 진수(眞數), 1차항을 근(根), 2차항 평방(平方), 3차항 입방(立方), 4차항 삼승방(三乘方)이라고 해서, ‘3χ4+5χ-2’라는 4차 방정식을 ‘삼삼승방 다오근 소이진수(三三乘方 多五根 少二眞數)’라고 표현했다. ‘다(多)’는 더하기, ‘소(少)’는 빼기를 뜻한다.
중국이 명나라 청나라로 들어와 실용수학 중심으로 흐름이 바뀐 것과 달리 조선은 송·원시대의 수학 전통을 독자적으로 발전시켰다.
명문장가 집안 출신인 홍길주가 수학에 몰두했던 것도 이런 전통 위에 수학과 천문학을 반드시 공부해야 하는 사회 분위기의 영향을 크게 받았기 때문이다. 18세기 실학의 영향과 함께 서양의 수학과 과학이 들어오자 ‘종합지식인’이었던 선비들도 수학에 관심을 갖기 시작한 것.
실제로 홍대용을 비롯해 황윤석, 홍정하, 서유본 등 당대의 많은 유학자가 이 시기를 전후로 수학을 연구했다는 기록을 자신의 책에 남겼다. 전 연구원은 “글뿐 아니라 수학에서도 비상한 재주를 가졌던 홍길주는 17, 18세기와 19세기 중반에 이르는 당시 지식인 사회의 분위기를 대변한다”고 말했다.
박근태 동아사이언스 기자 kunta@donga.com
▼홍길주(1786∼1841)▼
조선 정조 때 문장가, 경학자로 호는 ‘항해(沆瀣)’. 30대에 벼슬의 뜻을 버리고 초야에 묻혀 저술 활동에 매진했다. 삼국지연의를 읽는 법이나 대인관계에 필요한 예의 등에 대한 글을 비롯하여 박지원, 이익 등 당대 학자들에 대한 평까지 다양한 글을 남겼다.
‘현수갑고’ ‘표롱을첨’ ‘항해병함’ ‘숙수념’을 비롯해 ‘수여방필’ ‘수여연필’ ‘수여난필’ ‘수여난필속’ 등 4부작 비망록이 있다.