[신문과 놀자!/박병하의 수학 다르게 보기, 제대로 보기]‘3에서 얼마 더하면 5일까’ 바꿔보세요

5-3=2, 계산할 때 5에서 3을 빼는 데만 익숙한가요

일러스트 권기령 기자 beanoil@donga.com

내가 모스크바에서 공부할 때 겨울이었다. 눈발이 날리던 어느 날 나는 꽃집에 들어갔다. 하얀 장미가 눈에 뜨였다. 꽃송이는 주먹만 했고 줄기는 팔보다 길었고 뾰족한 가시가 돋아 있었다. 사서 곁에 두고 싶었다. 꽃이 하도 예뻐서 추위가 얼씬 못 할 것도 같았다.

○ 꽃보다 뺄셈

얼마죠? 나는 물었다. 180요. 주인은 답했다. 나는 100짜리 지폐 두 장을 냈다. 잔돈 20을 받으면 된다. 뺄셈 200―180이니까, 식은 죽 먹기다. 그런데 주인은 셈을 이상하게 해서 나를 어리둥절하게 했다. 꽃을 가리키며 먼저 또박또박 말했다. 180. 이어서 10짜리 지폐 한 장을 내게 주면서 190, 그리고 10짜리 지폐 한 장을 더 주며 200, 오케이, 됐지요? 라고 했다.

주인은 금니를 드러내며 나에게 환하게 미소 지었다. 금니는 없지만 나도 주인에게 환한 미소로 갚으며 돌아서 나왔다. 그런데 손에 든 꽃은 곧 잊히고 말았다. 나는 어느새 꽃집 주인의 뺄셈에 빠져 있었던 것이다. 꽃보다 뺄셈이었다!

○ 뺄셈, 다르게 보기

뺄셈 200―180은 200에서 180을 빼내고 남은 것 찾기라고 흔히들 생각한다. 5―3도 그런다. 사과 5개에서 사과 3개를 먹었어요, 몇 개가 남았죠? 네, 맞아요, 2개예요. 그걸 수학에서는 5―3=2라고 합니다. 그렇게들 설명하고 그렇게들 이해한다.

그렇다면 53―27 같은 뺄셈은? 일의 자리 3에서 7을 못 빼니까 십의 자리에서 하나 빌려 줘서, 어쩌고저쩌고, 수리수리 마하수리, 하다가, 짠, 26! 이라고 답한다. 자릿수를 고려해야 하니 과정은 복잡하지만 큰 수에서 작은 수를 빼낸다는 점에서는 다를 게 없다.

머리를 좀 쓴다는 사람은 풀기 좋게 문제를 변형할지도 모르겠다. 예를 들어 53―27의 결과는 (53+3)―(27+3)의 결과와 같을 테니 56―30을 하는 것이다. 계산이 한결 쉽다. 그러나 영리한 이 방식도 큰 것에서 작은 것 빼내기라는 틀에서 벗어나지는 못했다.

꽃집 주인은 뺄셈을 다르게 했다. 200에서 180을 빼지 않고 180에 얼마를 더하면 200인가를 찾은 것이다. 신선했다. 처음엔 어쩐지 마음에 드는 정도였다. 그런데 더 생각해 보니 그렇게 보는 게 더 옳다는 결론에 이르렀다.

먼저 5―3을 보자. 뺄셈을 다르게 보면 3에 얼마를 더하면 5일까, 라는 문제다. 물론 답은 2다. 간단하다. 이렇게 생각하나 저렇게 생각하나 여기까지는 별로 다를 것 없어 보인다. 그런데 3―5는? 3개에서 5개를 빼고 남은 것이라고 이해하는 사람은 그럴 것이다. 0개요. 사과가 3개 있는데 5명이 와서 한 명이 한 개씩 먹다 보면 사과는 하나도 안 남을 테니까요. 다른 사람은 이렇게 반박할지 모른다. 무슨 소리, 0은 무슨 0이야, 어떻게 작은 수에서 큰 수를 뺀단 말이야? 그럴 수는 없어. 그런 뺄셈은 불가능하다고!

○ 뺄셈, 제대로 보기

400년 전 프랑스에는 까무러칠 만큼 이가 아릴 때 그 지독한 치통을 잊기 위해 어려운 수학 문제를 풀었던 사람이 있었다. 파스칼이라고, 지금도 유명한 사람인데 그 또한 뺄셈을 그렇게 생각했다. 0―2는 0이다, 왜냐하면 0에서 뺄 수 있는 것은 없기 때문이다, 라면서.

그런데 잠깐. 뺄셈이란 큰 수에서 작은 수를 빼는 거라고, 언제 누가 정했지? 꼭 그래야만 하는 이유는 뭐지? 그렇게 생각하면 3―(―1)은 사과 3개 중 사과 ―1개를 빼고 남은 것이라는 말인데, 사과 ―1개라니, 그게 무언가? 말이 안 되지 않는가? 거기까지 생각하며 나는 걷고 있었다. 그때 무엇인가 내 머리를 탁 쳤다. 어? 꽃집 주인의 뺄셈으로 생각하면 간단하네? 퍼, 퍼, 펑. 순간 내 머릿속에서 불꽃놀이가 일었다. 꽃집 주인이라면 0―2를 다르게 봤을 것이다. 2에 얼마를 더하면 0이 되나, 라고.

그러면 누군가는 말할 것이다. 그런 수는 없다, 라고. 그런데 정말 없나? 도대체 없다가 뭔가? 어느 범위에서 없다는 말 아닌가. 그렇다면 2를 더해서 0이 되는 수는, 자연수 중에는 없다, 라고 해야 정확하다. 그럼 자연수 아닌 수가 있나? 있다. 음수가 그것이다. 1과 더해서 0이 나오는 수는 (―1)이고 2와 더해서 0이 되는 수는 (―2)이다. 그러니 0―2를 2에다 뭘 더해서 0이 나오느냐는 말로 이해하면, 0―2는 (―2)다! 뺄셈에 대한 생각을 바꾸니 천재 파스칼도 몰랐던 문제를 우리가 푼 것이다.

그럼, 뺄셈 3―(―1)은? 뺄셈을 제대로 보면 (―1)에 뭘 더해서 3이냐, 라는 문제다. 먼저 (―1)에 1을 더해서 0을 맞추고, 거기에 3을 더하면 3이다. 처음에 1을 더하고 다시 3을 더했으니 모두 4, 그래서 3―(―1)의 답은 4다! 뺄셈을 제대로 보니 이렇게 간단하구나! 거기까지 생각이 이르니 나는 기분이 좋아졌다. 나도 모르게 헤헤 웃음이 나왔다. 그제야 하얀 장미가 보였다. 눈을 맞고 있는 꽃은 꽃집에서 볼 때보다 더 예뻐 보였다. 어서 집에 가서 꽃병에 꽂아야지. 나는 씩씩하게 걸었다.

○ 더 생각해보기

(1) 똑똑이가 말했다.

“뺄셈이라고? 그거 쉬워. 온도계로 생각하면 돼. 예를 들어, 뺄셈 1―2=(―1)이야. 왜냐하면 영상 1도에서 2도 내려가면 영하 1도니까. 영하 1도를 ―1로 바꿔 쓰기만 하면 된다고.” 똑똑이가 한 말은 정말 항상 맞을까?

(2) 어떤 수에서 ―3을 뺐더니 2이다. 그 어떤 수는 무엇이었을까?

(3) 뺄셈 5―3을 ‘빼내기’로 보면 답이 2이다. 이 뺄셈을 다르게 보기로 해도 역시 답이 2이다. 5와 3일 때, 빼내기로 뺄셈하는 결과와 다르게 보기로 뺄셈하는 결과가 같았다. 항상 답이 같을까? 다른 수들일 때, 답이 다른 경우도 있지 않을까?

박병하 ‘처음 수학’ 저자