Fly me to the Science world!

수란 무엇일까? 무언가를 하나 둘 세어나간다는 셈하다에서 유래한 것이 수라는데, 그렇다면 수는 실체라기 보다는 세상에 대한 추상화된 표현일 뿐 인 것일까?
수백년 전 사람들이 수의 뜻을 헤아리기 시작하면서부터 관심을 끌어온 신비한 수들이 있는데, 그것이 바로 소수(素數, prime number)이다. 초등학교 때 산수를 배우면서 오히려 많이 다루는 것은 소수(小數, decimal number)인데, 한자로 쓰지 않으면 구분도 안되는 소수(素數, prime number)는 1과 자기 자신으로만 나누어지는 유별난 녀석들이다. 내 기억으로는 학교 다니면서 소수에 대해서 배운 것이 이것이 전부였던 것 같다.

그런데 이 녀석들이 참으로 유별난 것은 어떤 수가 소수인지 미리 알 수 없다는 것이다. 다시 말해, 1, 2, 3, 4, ... 로 수를 세어나가면서 어떤 수가 소수인지를 어떤 규칙으로 미리 알 수가 없다는 것이다. 흔히 수열이라고 해서 어떤 규칙에 따라 줄을 세운 수들이 있는데, 그 규칙을 알아내는 것이 가끔 적성 검사나 지능 검사 때 등장하기도 한다. 그런데 2, 3, 5, 7, 11, 13, 17, ... 로 이어지는 소수는 아무리 해도 규칙을 찾을 수가 없는 것이다. 그러니 수를 세어가면 점점 더 큰 소수와 만나게 될 것인지, 아니면 새로운 소수가 더 이상 나타나지 않는 어는 순간을 만나게 되는 것은 아닌지 도무지 우리가 미리 알 수 있는 것이 없는 것이다. 어렵고 복잡한 공식으로 표현되지 않아 누구나 흔히 보는 단순한 이 숫자들에 대해 우리가 알 수 있는 것이 너무나 적다는 것이 오히려 사람의 마음을 이끄는 것이 아닌가 싶다.

그러던 중 고대의 탁월한 수학자였던 유클리드가 소수가 무한으로 존재한다는 것을 증명하게 되고, 갖가지 소수를 찾아내는 경험적인 공식을 찾아내지만 시간이 지나면서 그 공식들은 특정한 영역을 벗어나면 올라로 동작하지 않는다는 것이 밝혀지며, 소수의 공식을 찾아내려는 많은 수학자들을 실망시켜왔다. 

여기서 하나의 발상의 전환이 이루어지는데, 현대적인 수론을 만들어낸 뛰어난 수학자였던 가우스는 정확히 소수를 찾아내는 공식 대신에, 소수가 자연수의 직선을 따라 어떻게 분포하는지 말하자면 통계적인 분포가 어떤 규칙을 갖는 모양이라는 것을 발견해 낸다. 어떤 수가 소수이냐 아니냐는 아무 규칙 없이 무작위로 결정된다고만 생각했던 소수가 사실은 통계적인 규칙을 갖고 있다는 것이 가우스에 의해 비로소 드러난 것이다.

물론 가우스가 만들어낸 통계적 분포가 실제 소수의 분포와 정확히 맞아 떨어지는 것은 아니다. 어떤 범위 안에서의 예측값보다 실제 소수의 갯수는 어떤 경우는 좀 많거나 어떤 경우는 좀 적게 나왔던 것이다. 이 오차를 없앨 수 있는 방법을 찾아낸 사람이 바로 가우스 제자 중의 한 사람이고 리만 가설이라는 수학의 풀리지 않는 난제로 더 유명한 베른하르트 리만이다. 그는 파동의 움직임을 그려주는 제타 함수(Zeta funiction)라는 것을 복소수 평면에서 펼쳐서 다른 사람들이 보지 못 하던 새로운 3차원 지형을 찾아냈고, 이 지형에서 특정한 직선(특이선, critical line)을 따라서 해수면과 만나는 점들이 있는데 거기가 바로 소수가 나타나는 곳이라는 것을 밝혀낸다. 여러 개의 파동이 합쳐저서 우리가 듣는 소리와 음악이 만들어지듯이, 소수도 복소 평면에서 제타 함수로 표현되는 파동을 통해 자기 자신을 드러내고 있는 것이다. 소수의 음악이라는 책의 제목은 이런 신비한 현상을 절묘하게 표현해 주고 있다.

소소의 규칙을 완전히 밝혀 내려면 제타 함수가 복소 평면에서 만들어내는 지형에서 해수면과 만나는 모든 점이 반드시 특이선 위에만 있어야 하는데, 리만은 그에 대한 증명을 완성하지 못 하고 세상을 떠난다. 나는 이것을 증명했지만 여기에 적기에는 자리가 모자란다는 메모를 남겨 많은 수학자들의 애간장을 태웠던 페르마처럼, 리만도 자신의 가설에 대한 몇가지 어렴풋한 실마리만을 남김으로써 지금껏 많은 수학자들의 절망과 희망의 변주곡을 연주하고 있는 셈이다. 어떤 수학자는 자기가 백년 후에 다시 태어난다면 눈을 뜨자 마자 "리만 가설은 증명되었는가?" 라고 물어보겠다고 했다니 얼마나 애를 태웠을지 알만 하다.

수 많은 천재적인 수학자들이 리만의 가설을 증명하기 위해 노력해 왔는데, 특정한 영역이나 특정한 조건에서만 들어맞는다는 것 외에는 아직 어느 누구도 완전한 증명을 찾아내지 못 하고 있다. 컴퓨터가 발달하면서 어떤 수학자들은 해수면과 만나는 점을 수억 개까지 찾아내어 그것들이 모두 특이선 위에 있다는 것을 알아 냈지만, 리만 가설이 맞을 것이라는 심증을 굳혀 주기는 했지만 그것으로 가설을 증명한 것은 아니다. 다만, 리만 가설이 참일 가능성이 크므로 언젠가는 증명해 낼 수 있다는 위안을 주고 있다는 의미는 있겠다.

최근에는 수가 커지면서 소수가 나타나는 간격이 동전 던지기 처럼 무작위가 아니라 무거운 원자핵의 에너지 레벨의 패턴과 너무나도 비슷하다는 것을 알아내게 되어, 이제는 리만 가설을 수학자가 아닌 물리학자들이 증명할지도 모른다는 전망까지 나오고 있다. 누가 이것을 증명하느냐 보다는, 원자핵의 에너지 레벨의 패턴이라는 현실의 세계와 현실의 추상화된 표현일 뿐인 수의 세계가 이렇게 소수의 파동을 따라 연결된다는 것이 오히려 놀라울 뿐이다? 과연 이것은 그냥 우연일까? 아니면 무언가 근원적인 연관 관계가 있는 것일까? 최근에 이를 연구하는 물리학자들은, 소수가 복소 평면에서 그리는 파동은 북처럼 양쪽 끝이 열려있는 모양에서 만들어지는 진동수의 패턴과 같다고 생각들을 하고 있다. 이러한 이론은 지구 처럼 자전하는 유체의 움직임을 밝혀내기 위한 방법으로 이미 연구되어 왔는데, 놀랍게도 리만이 남겨놓은 노트에서 제타 지형에서 나타나는 해수면 위의 점들과 자전하는 유체의 움직임에 대한 연구를 서로 연결지으려 했다는 흔적을 찾아 내기도 한다.

언제 부터인가 어줍잖게 다른 과학 분야와 달리 적어도 수학이라는 분야에서는 더 이상 새로운 발견이나 발전은 있을 수 없는 것이 아닌가라는 생각을 해왔었는데, 이 책을 읽으면서 그것이 얼마나 잘못된 편견인가를 깨닫게 되었다. 순수한 수학이 물리학과 서로 뒤엉키며 펼쳐내는 흥미진진한 세계가 참으로 놀랍기만 하다.

이 책도 페르마의 마지막 정리라는 책 처럼 리만 가설 자체만이 아니라, 수백년 동안 이어져 온 수학의 발전 과정을 비 전문가들도 재미있게 읽을 수 있도록 쓰여져 있어 누구나 한번 읽어 볼 만하다. 특히, 수학에 재미를 가지고 있는 중고등학생들이라면 꼭 한번 읽어보라고 추전해 주고 싶다. 문제를 푸는 기술이 아니라 수학에 대한 진정한 관심과 넓은 안목을 길러줄 수 있는 아주 좋은 책이다.

책을 읽으면 계속 꼬리를 무는 생각들은...
과연 우리 나라 또는 좀 더 넓혀서 아시아 사람들이 이런 수학 분야에서 큰 기여을 할 수 있을까 하는 기대와 아쉬움이다. 올림픽의 양궁 처럼 금메달을 연속해서 6번이나 7번씩 딸 것 까지야 업겠지만, 아시아 사람이나 우리 나라 사람이 리만 가설을 증명하거나 또는 증명하는 일에 큰 힘을 보탤 수 있다면 얼마나 멋진 일이겠는가?
인도는 같은 아시아라도 수학 분야의 뛰어난 인재가 드물지 않게 나오는 모양이다. 흔히 0이라는 것을 처음 발견한 것으로 인용되는 인도의 저력이라고 할 수 있을 것이다. 특히, 책에서 소개하고 있는 라마누잔이라는 수학자는 제대로 된 정규 수학 교육도 받지 않은 채로 수론 분야의 많은 업적을 남기기도 한다. 결국 한 분야의 천재는 개인의 능력만이 아니라 그가 태어난 사회의 문화라는 비옥한 흙이 있어야만 한다는 것을 보여주는 것이 아닌가 한다. 참 신기하구먼...