[과학세상/박형주]자연의 본질은 불규칙의 연속이다

20세기를 풍미했던 수학자 브누아 망델브로가 며칠 전 타계했다. 그는 ‘깨진 조각’이라는 뜻의 라틴어에서 유래한 프랙털(fractal) 개념을 발전시켰는데 이 단어는 일상어가 되어 여러 곳에서 사용된다.

경제학이나 미술 등 전혀 다른 분야의 많은 사람이 그를 안다. 겨울나무에 앉은 눈꽃의 모양이나 금융시장의 불규칙한 가격변동을 하나의 수학이론으로 설명한 탁월함 때문이다. 이토록 다른 일을 연결해 볼 생각을 하다니. 확대해서 들여다보아도 같은 모양이 되풀이되는 공통점을 꿰뚫어본 혜안이다.

하늘에서 찍은 해안선의 사진을 연상해보라. 사진을 확대해도 해안선은 원래 모습과 다를 바 없어 보인다. 더 확대해도 여전히 같은 불규칙한 모양인데 불규칙이 규칙적으로 반복되는 순환성을 가진 프랙털의 예이다. 인체의 혈관도, 대동맥 수준에서 모세혈관까지 확대를 거듭해도 비슷한 모양이 아니던가. 이러한 자기유사성은 실험예술에도 많이 쓰여 디지털 아트에서는 프랙털 아트가 하나의 분야로 간주된다.

선은 1차원, 면은 2차원이라는 차원 개념엔 이제 많은 이가 익숙하다. 그럼 1.6차원 같은 건 있을까? 4차원 얘기만 나와도 정신이 혼미해지는 판인데. 2차원의 사각형에서 선의 길이를 두 배로 늘이면 네 개의 사각형이 생기고 3차원에서는 8개의 정육면체가 생기는 현상에 착안해 프랙털을 확대할 때 반복되는 정도를 차원으로 보면 이런 이상한 차원이 나온다.

그래서 지리학자는 해안선이 복잡한 서해안의 프랙털 차원이 동해안보다 높다고 하고, 기상학자는 뭉게구름이 1.35차원쯤이라고 하고, 의학자는 인간 뇌주름이 2.72차원이라고 한다. 뇌의 큰 주름을 들여다보면 다시 작은 주름이 계속되는 프랙털 구조인데 뇌의 주름이 뭉게구름보다 자기순환의 정도가 훨씬 더 높다는 얘기다. 그러니 작은 공간에 많은 뇌세포를 배치하려는 자연의 노력이 만들어낸 조화는 참으로 오묘하다. 프랙털 차원이 높은 혈관구조를 가진 사람은 영양분이 인체요소에 전달되기 쉬운 건강 체질일 테니 혈관의 프랙털 차원을 올리는 운동을 개발하면 인기가 있을 법하다.

망델브로 집합은 복소함수론을 사용하여 엄밀하게 구축된 유명한 프랙털이다. 시작할 때의 미미한 차이가 종국에는 전혀 다른 결과를 만들어 낼 수 있다는 혼돈이론(Chaos Theory)의 구체적인 실례이기도 하다. 애슈턴 커처 주연의 영화 ‘나비효과’를 기억하는가. 나비의 단순한 날갯짓이 날씨를 변화시킨다는 기상학이론에서 유래된 제목인데 작은 차이가 나중에 파국의 유무를 바꾼다는 혼돈이론의 영화판인 셈이다.

망델브로는 불규칙하며 혼란스러워 보이는 현상의 배후에 정제된 규칙이 있음을 보였지만 초기에는 비난에 시달렸다. 작은 일탈현상을 과장한다는 비난인데 그에 맞서며 엄밀한 수학이론을 만들어낸 그는 색깔과 끼를 갖춘 수학자로서 손색이 없다.

“구름은 동그랗지 않고, 산은 원뿔모양이 아니며, 해안선은 원형이 아니고, 나무껍질은 부드럽지 않고, 번개는 직선으로 움직이지 않는다.” 어느 고승의 설법으로 들림직한 이 말은 망델브로의 저서 ‘자연속의 프랙털 기하학’에 나오는 말이다. 전통적인 유클리드 기하학에 얽매여 프랙털의 혼란스러움을 거부하던 비판자에게 불규칙과 무질서가 자연의 본질에 더 가깝다고 일갈한 것이다.

프랙털이라는 개념을 통해 불규칙한 세상을 이해하는 일은 이제 초입이다. 수학자의 사유에서 출발해 사회과학과 정보통신에까지 큰 영향을 미치게 된 혼돈이론과 복잡계이론 등 연결고리가 방대하다. 우린 참 갈 길이 멀다.

박형주 포스텍 수학과 교수