기나긴 수학의 짧은 역사

수학은 우리 삶의 전제 조건이고 과학의 여왕으로 칭송받는 학문이지만, 그 정확성 때문에 많은 사람이 어린 시절부터 싫어하는 과목이기도 하다. 한편에서는 수학을 전문가에게 맡기면 된다고 주장한다. 스마트폰을 사용하는 데 그 내부 구조까지 알 필요는 없으니 말이다. 그러나 현대인은 일상생활에서도 수학에 대한 기본적인 이해가 필요하다. 게다가 많은 직업에서 이 학문의 지식은 필수적이다. 오늘날 모든 학문은 수학적 모델에 의존하고 있을뿐더러, 무엇보다 수학적 이론은 정신을 자극하고 시야를 넓혀준다.



이 책을 읽다 보면 저자 볼프강 블룸이 수학을 얼마나 사랑하는지 느낄 수 있다. 선사 시대부터 21세기까지 시간과 공간을 넘나들며 수학자들을 만나고, 통시적이면서 공시적으로 수학의 역사를 꿰뚫는다. 간략함 속에서도 풍성하고 흥미로운 이야기로 수학의 아름다움을 일깨우고, 우리 곁의 수학을 한층 너그러운 마음으로 볼 수 있는 혜안을 준다.



절대적이고 장구하며 편견과 선입견을 깨주는 진정한 학문, 수학을 만나다

수학에서 한 번 발견되고 엄밀히 증명된 것은 영원하다



“수학자의 작품은 화가나 시인의 작품만큼이나 아름다워야 한다. 아이디어는 색상이나 단어처럼 조화를 이뤄야 한다. 아름다움이 첫 번째 시험이다. 이 세상에 추한 수학이 설 자리는 없다.”

-고드프리 해럴드 하디



누군가는 정답이 있어 수학이 좋다고 하고 완벽한 공식은 아름답기까지 하다고 말하지만, 많은 사람은 사칙연산만 알면 일상생활에 아무 문제 없는데 왜 굳이 알 수 없는 기호와 복잡한 공식이 난무하는 수학을 배워야 하느냐고 묻는다. 그런데 안타깝게도 수학은 우리 곁에 늘 존재하고, 시스템 운용에 꼭 필요하다고 해도 과언이 아니다. 컴퓨터, 자동차, 스마트폰, 냉장고, 의료기기, 하물며 눈 결정체에도 수학이 들어 있다.

흔히 수학은 숫자의 과학으로 간주된다. 하지만 기하학은 도형, 확률론은 기회와 위험, 이른바 불대수(Boolean algebra)는 논리를 다룬다.

그렇다면 수학이란 무엇인가? 이 학문의 본질은 개념화다. 그것은 숫자로 시작한다. 예를 들어, 숫자 3은 무엇을 세는지와 무관하다. 사람 3명이든, 양 3마리든, 글자 3개든, 덕목 3가지든 이들이 지닌 유일한 공통점은 숫자라는 것이다. 인간, 동물, 기호, 속성 같은 다른 모든 내용은 가려진다.

수학적 대상은 실재하는 것이 아니라 관념이다. 수학자가 직선을 말할 때, 반드시 종이 위에 있는 유한한 선을 의미하지 않는다. 오히려 무한히 길고 무한히 가느다란 관념을 뜻한다. 마찬가지로 수학자에게 구(球)는 만질 수 있는 모양이 아니라, 구의 중심점으로부터 거리가 특정 값의 반지름을 초과하지 않는 모든 기하학적 위치의 총체다.

수학의 본질은 불필요한 모든 것을 삼가고, 각각의 맥락에서 중요한 것에 집중하는 것이다. 지도나 내비게이션 시스템으로 길을 찾아본 사람은 안다. 지도나 디스플레이에 표시되는 모든 정보는 세부 사항은 뺀, 한 장소에서 다른 장소로 이동하기 위해 어떤 도로를 이용해야 하는지 정도만 알려준다. 지도를 읽거나 내비게이션을 이용하는 누구든 집, 자동차, 보행자를 추상화한다. 그럼에도 가고자 하는 위치를 찾아간다.

수학자도 비슷한 방식을 취한다. 즉 문제를 푸는 데 필요하지 않은 모든 것을 생략한다. 수학자들의 과학은 본질을 인식하고, 정리하고, 새로운 연결 고리를 발견하는 기술이다.

여기서 특이한 점은 한 번 발견한 것은 영원히 유효하다는 것이다. 2×2는 영원히 4이고, 삼각형 내각의 합은 고대뿐만 아니라 다음 세기에도 180도(물론 공간이 휘어진 비유클리드 기하학에서는 이 법칙이 성립하지 않는다)다. 수학을 제외한 다른 모든 과학에서 지식은 언젠가 옛것이 되고 새로운 발견으로 대체된다. 물리학에서조차 태양 중심의 시스템은 모든 천체가 지구 주위를 돈다는 생각을 근대 초기에 대체했다. 그리고 100년 전, 상대성 이론과 양자역학은 뉴턴 고전물리학의 한계를 드러냈다.

수학은 우리 삶의 전제 조건이고 과학의 여왕으로 칭송받는 학문이지만, 그 정확성 때문에 많은 사람이 어린 시절부터 싫어하는 과목이기도 하다. 한편에서는 수학을 전문가에게 맡기면 된다고 주장한다. 스마트폰을 사용하는 데 그 내부 구조까지 알 필요는 없으니 말이다. 그러나 현대인은 일상생활에서도 수학에 대한 기본적인 이해가 필요하다. 게다가 많은 직업에서 이 학문의 지식은 필수적이다. 오늘날 모든 학문은 수학적 모델에 의존하고 있을뿐더러, 무엇보다 수학적 이론은 정신을 자극하고 시야를 넓혀준다.

이 책을 읽다 보면 저자 볼프강 블룸이 수학을 얼마나 사랑하는지 느낄 수 있다. 선사 시대부터 21세기까지 시간과 공간을 넘나들며 수학자들을 만나고, 통시적이면서 공시적으로 수학의 역사를 꿰뚫는다. 간략함 속에서도 풍성하고 흥미로운 이야기로 수학의 아름다움을 일깨우고, 우리 곁의 수학을 한층 너그러운 마음으로 볼 수 있는 혜안을 준다.



책의 내용



이 책은 총 9개 장으로 이루어져 있다. 석기 시대 최초의 숫자부터 21세기 스도쿠까지를 아우른다. 각 시대의 앞머리에는 주요 사건을 일목요연하게 정리해두었다. 이해를 돕는 사진 자료와 주요 내용은 별도로 설명해주는 꼼꼼함까지, 세심한 배려가 돋보이는 구성이다.



선사 시대

인류는 문자를 발명하기 훨씬 전부터 숫자를 사용했다. 심지어 석기 시대에도. 가장 오래된 증거는 남아프리카공화국에서 나왔다. 약 3만 5000년 전, 누군가 개코원숭이의 허벅지 뼈에 자국을 새겼다.

바빌로니아와 이집트의 초기 선진 문명은 수백만 단위의 숫자를 알고 있었다. 당시 학자들은 그 숫자로 계산을 했으며, 기하학을 사용해 들판을 측량하고 건물을 설계했다.



고대 시대(기원전 600~기원후 300)

고대 그리스에서 전해지는 많은 이야기는 실제로 일어났는지 아무도 모르는 일화다. 피타고라스나 유클리드 같은 학자들이 실존 인물인지조차 입증된 것은 아니다. 그러나 분명한 점은 그리스인이 수학과 단순한 산수를 구별했다는 것이다. 무역 민족으로서 그리스인은 자연스럽게 계산에 능통했다. 하지만 산술의 달인이 되지는 못했다. 바빌로니아 사람들과 달리, 숫자의 위치에 따라 값이 달라지는 자릿값 체계로 수치를 나타내지 않았기 때문이다.

그리스인은 주로 기하학을 바탕으로 수학 분야에서 획기적인 성과를 거뒀다. 그들은 미세한 모래 위에 예술적인 그림을 그려 넣음으로써, 나중에야 등장한 정교한 대수학(代數學) 없이도 복잡한 관계를 다룰 수 있었다. 그들은 기하학을 어떤 응용 분야와도 무관하게 존재할 권리가 있는 ‘순수한’ 과학으로 이해했다.



고중세 시대

기독교 유럽에서 중세는 수학의 암흑기로, 당시 수학의 주요 무대는 이슬람 제국이었다. 유럽이 중세의 가장 어두운 시기에 갇혀 과학을 소홀히 여긴 반면, 이슬람 종교와 함께 아랍 지역에서는 학문이 번성했다.

아랍 세계는 고대 그리스의 유산을 흡수했다. 학자들은 유클리드, 아르키메데스 등의 저서를 번역하고 그들의 과학을 더욱 발전시켰다. 오늘날의 대수학이나 알고리즘 같은 용어가 이를 입증한다.

아랍인은 여기에 더해 인도인의 지식도 받아들였다. 인도에서는 수 세기 동안 수학이 발전해왔다. 5세기 이후 세계 역사상 가장 큰 히트작 중 하나인 10진법도 이곳에서 발전했다.



중세 말기 시대

화폐 경제가 점점 물물교환을 대체하면서 수학의 도움으로만 해결할 수 있는 많은 과제가 생겨났다. 당시 일반적으로 사용하던 다양한 길이, 부피, 무게 간의 전환을 어떻게 극복할까? 한 통화에서 다른 통화로 어떻게 변환할까? 언제든지 추적하고 확인할 수 있는 올바른 회계란 무엇일까? 판매자는 금융 거래에 대한 이자와 복리를 어떻게 계산했을까?

먼 나라로의 항해는 더욱 정밀한 항법을 요구했고, 이는 오직 개선된 수학적 도구를 통해서만 가능했다. 그리고 운하와 수문의 건설은 수력 기술의 문제를 야기했다.

이러한 문제 중 어느 것도 로마 숫자와 중세 미신으로 해결할 수 없었다. 수학은 교회 학문의 교육적 요소라는 역할을 벗어나 그리스인과 아랍인의 토대를 통해 유럽에서 계속 발전하기 시작했다.



르네상스 시대

유럽이 깨어나기 시작한 시기로, 비판적인 사람들은 교회의 전능성에 의문을 제기했다. 그리하여 왕실 궁정에서 학생들을 모은 학자들은 고대 그리스의 작품을 연구하고 번역했으며, 점점 더 실용적인 문제에 관심을 기울였다. 하지만 자신의 발견을 고이 간직하려는 성향의 과학자들 때문에 새로운 아이디어는 처음에 천천히 퍼졌다.

수학은 비즈니스·항해·예술 분야에서 점점 더 많이 활용됐다. 유럽은 위대한 항해를 통해 세계를 바라보게 되었다. 선원들에겐 정확한 지도가 필요했고, 상인들은 효율적인 장부가 요긴했다. 천문학자들은 망원경으로 행성과 별을 관측하고 그 움직임을 이해하기 위한 새로운 접근법을 개발했다. 그들은 지구 중심 세계관을 버리고 태양 중심 세계관을 채택했다. 군대 역시 수학에 의존했다. 그들은 포탄의 비행 궤적을 계산하고, 반대로 가장 큰 대포알에도 견딜 수 있는 요새를 설계했다.

이와 관련한 중요한 기여는 종종 지적인 엘리트가 아니라 장인과 상인 그리고 수학 아마추어들로부터 비롯되었다.



계몽주의 시대

17∼18세기에 교회와 세속적 권위에 대한 믿음이 점점 더 의심을 받았다. 철학자 이마누엘 칸트의 말을 빌리자면, 사람들은 권위를 따르는 대신 “자신의 이성을 사용”해야 한다고 생각했다.

천체의 궤도를 결정하기 위해 천문학자들은 정밀한 도구뿐만 아니라 정교한 수학도 필요했다. 피타고라스·유클리드·아르키메데스 등이 많은 연구를 했지만, 그들은 항상 정적인 양만을 다루었다. 반면에 계몽주의의 수학적 혁명은 변화하는 양, 이른바 변수를 도입해 움직임을 설명하는 것이었다. 먼저 움직임을 개념적으로 파악하고 나서 계산으로 통제하는 것이 목표였다.

수학자들은 자유낙하나 행성 및 발사체의 궤적 같은 고전적인 문제를 해결하고자 했을 뿐만 아니라 실용적인 역학에도 관심을 가졌다. 크레인·풍차·펌프·전동 로프·트레드밀 등 신흥 제조 회사들을 위해 다양한 장치를 발명하는가 하면 스스로 끝없이 움직이는 기계, 즉 영구 기관의 유토피아를 열렬히 추구했다. 이 모든 혁신의 중심에는 운동이 있었다. 새로 개발된 미분법을 통해 운동량을 계산할 수 있었다.

기하학에서도 학자들은 그리스인의 경직된 개념을 극복했다. 그들은 이 분야를 대수학과 새로운 방식으로 결합해 전례 없는 발전을 이루었다.

더불어 확률론이라는 전혀 새로운 수학 분야가 등장했다. 도박에서 출발한 이 학문은 과학자로 하여금 그들의 지식을 곧 새롭게 등장할 보험 산업과 인구통계학에도 활용하도록 했다.



19세기

산업화의 도래는 자연과학과 수학에 많은 과제를 안겨주었다. 기계를 제작하고, 교량과 철도를 건설하고, 석탄·철강·화학 원료를 생산하며, 통신·에너지·송전을 관리해야 했다. 하지만 처음에 발명과 개발로 산업을 발전시킨 것은 학계 과학자가 아니라 엔지니어, 발명가, 정밀 기계공, 성직자, 장인이었다. 최초의 공장이 생산에 들어가고 오랜 시간이 지난 후에야 자연과학이 생산 단계에 투입됐다.

산업계에는 잘 훈련된 엔지니어가 필요했으나, 아카데미와 대학은 엄격한 과학을 지향했기에 필요한 교육을 제공할 수 없었다. 이러한 이유로 공업기술학교를 설립해 이론 교육과 실습을 혼합해 제공했다.

자연과학은 다양한 응용 분야에서 그 유용성이 입증됐고, 점점 더 빠른 속도로 발전했다. 그 과정에서 이론도 소홀히 하지 않았다.

한 세기가 지나면서 수학은 훨씬 더 추상화됐다. 과학자들은 순수하게 수학 내적인 이유로 많은 아이디어를 발전시켰다. 이를테면 대수학에서는 더 이상 방정식만 연구하지 않고 구조를 연구했다. 이를 통해 여러 과제에 대해서는 해결책이 없다는 것을 증명했다.

수학자들은 미분법을 계속 발전시켜 기계공학, 역학, 천문학, 유체역학, 빛·전기·자기 연구 등 물리학 및 기술의 모든 분야에 적용했다. 아울러 무한히 작은 크기에 대한 신비로움을 벗겨냈다.



20세기

수학은 20세기 전반에 연이은 위기로 요동쳤다. 첫 번째 위기는 어떤 종류의 증거를 허용할지에 대한 근본적인 논쟁과 관련이 있었다. 수학적 대상을 구성할 수 있을까, 아니면 명시적으로 제시할 수 없어도 그 존재를 증명하는 것으로 충분할까? 수학적 대상에 대한 논쟁이 등장하자 ‘학문의 여왕’이라 불리던 수학의 논리적 토대가 무너져 내린 것 같았다. 그러나 수학자들은 덜 견고한 토대 위에서 작업하는 데 익숙해졌다. 두 번째 위기는 수학적 내용과 관련이 없었다. 권력을 잡은 국가사회주의자들이 유대인 수학자들을 박해하고 추방했다. 그중 많은 사람이 미국으로 이주함으로써 세기 중반에 유럽의 주도적 역할을 신대륙에 내주었다.

세기말에는 컴퓨터가 세상을 바꿨다. 한편으로, 컴퓨터의 도움으로만 가능한 수학적 정리의 증명들이 등장했다. 순수주의자들에게 이것은 커다란 사건이었다. 다른 한편으로, 순수주의자들도 종이와 연필을 이용한 전통 방식으로 증명을 시도하기 전에 컴퓨터의 예제를 바탕으로 추측을 시험해보았다.

다비트 힐베르트, 쿠르트 괴델, 팔 에르되시 등 수학계의 거장들과 함께 수천 명의 수학자들이 20세기에 그들의 학문적 건축물을 확장시켰다. 그들은 공들여 개념을 고안하고 정리를 증명하며 새로운 이론을 창조했다. 20세기 말에는 가장 영리한 사람들이 수 세기 동안 풀려고 노력한 2가지 수학적 난제가 풀렸다. 페르마의 마지막 정리와 케플러의 추측이다.



21세기

2000년 파리에서 열린 콘퍼런스에서 클레이 수학연구소(CMI)는 7가지 수학 난제를 선정했다. 미국의 백만장자 랜든 클레이가 운영하는 이 재단은 그 문제를 가장 먼저 푸는 사람에게 100만 달러의 상금을 수여하기로 했다. 이를 통해 클레이 수학연구소는 1900년 파리에서 다비트 힐베르트가 제시한 23가지 문제 목록을 이어가는 한편, 젊은 수학자들이 어려운 문제에 도전하도록 격려하고자 했다.

또 한 가지 특별한 일은 2014년 마리암 미르자카니가 여성 최초로 ‘수학자들의 노벨상’인 필즈상을 수상했다는 사실이다. 여성은 남성보다 수학을 못한다는 편견을 깨는 수상이었다. 하지만 안타깝게도 2017년 미르자카니는 불과 40세의 나이로 암 투병 끝에 세상을 떠났다. 그러나 그의 분투는 젊은 여성들에게 ‘과학의 여왕’인 수학에 도전하는 용기를 주기에 충분하다.