1003 아주 짧게 소개하는 수학

Timothy Gowers (지은이), 박기현 (옮긴이) | 교우사(교재) | 2013-03-02

얼마전에 읽은 ‘수학이 필요한 순간’보다 훨씬 더 좋은 책이다.

2

이러한 반대 의견에 ― 그 중 일부는 분명히 다른 것들보다 더 심각한데 ― 비추어 볼 때, 계산과 거기서 나오는 예측에 대해 어떤 태도를 취해야 할까? 한 가지 접근법은 가능한 많은 반대 의견을 고려하는 것일 수 있겠다. 그러나 훨씬 더 합리적인 대책은 정반대이다. 즉 어느 수준의 정밀도가 필요한지 정한 다음 가능하면 단순하게 이에 맞추는 것이다. 어떤 단순화 가정이 답에 끼치는 영향이 아주 작다는 것을 경험으로 안다면, 그 가정을 받아들이는 것이 낫다.

20~21

체스에서 흑의 왕은 무엇인가? 이 별난 질문에 대처하는 가장 적합한 방법은 약간 옆으로 피하는 것인 듯 하다. 사람들이 대체로 그러듯 체스판을 가리고 게임의 규칙을 흑의 왕에게 특히 주의를 기울여 설명하는 이상 더 무엇을 할 수 있는가? 흑의 왕에 있어 중요한 것은 그것의 존재 또는 그 내재적 본질이 아니라 게임에서 하는 역할이다.

수학에서 종종 말하는 추상적 방법은 수학적 대상에 이러한 태도를 취할 때 생겨나는 것이다. 이러한 태도는 다음 슬로건으로 요약할 수 있다. 수학적 대상은 곧 그것의 역할이다. 비슷한 슬로건이 언어철학에도 여러 번 출현했으며, 이런 슬로건은 논쟁거리가 될 수 있다. 예를 들어 소쉬르(Ferdinand de Saussure)는 ‘언어에는 단지 차이만 있다’라고 하였고 비트겐슈타인(Ludwig Wittgenstein)은 ‘단어의 의미는 언어에서 그의 용법이다’라고 하였다(추가 참고 도서를 참조하라). 또 논리 실증주의자들의 구호인 ‘한 명제의 의미는 그것의 검증방법이다’도 있다. 철학적 이유로 내 말이 탐탁지 않다면, 내 말을 독단적 선언으로 간주하기보다는 경우에 따라 취할 수 있는 태도라고 생각하길 바란다. 사실은, 내가 보이고자 하는 것처럼, 고등 수학을 제대로 이해하기 위해서는 이를 받아들일 수 있는 것이 중요하다.

39

그 개념들을 구체화하여 이해하려고 하면 수수께끼 같이 느껴지겠지만, 그것들이 무엇인가를 알려고 고민하지 말고 느긋하게 추상적인 방법을 사용하면 그것들은 더 이상 불가사의하지 않게 된다.

73

다시 한번 우리는 무한을 포함하는 명제는 근사에 관한 더 복잡한 명제를 표현하는 편리한 방식이라고 간주하고 있다. 더 시사하는 바가 많을 수도 있는 또 다른 단어로 ‘극한’이 있다. 무한 소수는 유한 소수 수열의 극한이고, 순간 속도는 점점 더 짧은 시간 동안 움직인 거리를 재어 계산한 근사치의 극한이다. 수학자들은 종종 ‘극한에’ 또는 ‘무한에’ 무엇이 벌어지는지 말하지만, 그들은 스스로 하는 일을 잘 알고 있어서 그들이 말 그대로를 의미하는 것은 아니다. 수학자들에게 의미하는 바를 정확하게 말하라고 하면 수학자들은 대신 근사에 관하여 말하기 시작할 것이다.

77

넓이에 관해 다른 식으로, 어쩌면 더 명확하게, 말할 수도 있다. 만일 경계가 곡선인 도형이 정확하게 넓이가 12 제곱센티미터이고, 내가 이를 정사각형 격자를 이용하여 보여야 한다면 나로서는 불가능하 다 ― 무한히 많은 정사각형이 필요할 것이다. 그러나 만일 12가 아닌 예를 들어 11.9를 나에게 제의한다면 정사각형 격자를 이용하여 그 도형의 넓이가 그 수가 아니라고 단정적으로 증명할 수 있다. 남은 넓이가 0.1 제곱센티미터보다 작을 정도로 충분히 세밀한 격자를 택하기만 하면 된다. 다른 말로 하면 넓이가 12라는 것을 증명하는 대신에 넓이가 12 외의 어느 것도 아니라는 것을 증명하는 것이라면 무한을 사용하지 않고도 할 수 있다. 도형의 넓이는 아니라고 증명할 수 없는 단 하나의 수이다.

126

사람들은 대개 수학이 몹시 깔끔하고 정밀한 학문이라고 생각한다. 학교에서는 수학 문제가 간결하게 서술되면 그 답도 짧고 대체로 간단한 수식으로 주어질 것이라 기대하게 만든다. 대학 수준에서 수학 공부를 계속하면, 특히 수학을 연구하게 되면 곧 진실을 알게 된다. 많은 문제에 있어 해에 대한 정확한 공식을 찾았다면 이는 기적과 같고 완전히 뜻밖의 일로 여겨질 것이다. 대부분의 경우에 그저 대략적인 근사치로 만족해야 하기 때문이다. 근사치에 익숙 해지기 전까지는 근사치들이 보기 흉하고 성이 차지 않게 보인다. 그러나 수학에서 가장 위대한 정리들과 가장 흥미로운 미해결 문제 중 많은 것을 계속 놓치지 않으려면 근사치들을 음미할 수 있어야 한다.

143~145

일반적으로 대중이 생각하는 전형적인 수학자 상은 ― 어쩌면 매우 똑똑하지만, 또한 독특하고, 옷을 이상하게 입고, 남성인지 여성인지가 모호하며, 반 자폐적인 ― 호감을 주는 모습이 아니다. 몇몇 수학자는 어느 정도 이런 고정 관념에 부합하지만, 이 고정 관념에 부합하지 않으면 수학을 잘할 수 없다고 생각하는 것만큼 어리석은 일도 없다. 사실 다른 모든 것이 같다면 아마 괴짜보다 여러분이 우위에 있을 것이다. 수학을 공부하는 학생 중 단지 극소수만 마침내 수학연구자가 된다. 대부분 그 이전 단계에서, 예를 들면 흥미를 잃어서, 박사 학위를 취득하지 못하여, 박사 학위는 취득했지만 대학에서 일자리를 구하지 못하여 다른 길로 가고 만다. 내가 받은 인상으로는, 그리고 이렇게 생각하는 사람은 나 뿐만이 아닌데, 이런 다양한 단계에서 생존한 사람들 중 괴짜의 비율은 처음에 학생들에서 차지하는 비율보다 보통 더 적다.

수학자에 관한 이런 부정적 묘사가 수학을 즐기고 잘했을 사람들의 의욕을 떨어뜨려 해를 끼쳤을 수 있지만, ‘천재’ 라는 말이 끼친 폐해는 숨어서 작용하며 더 심각하고 클 것이다. 금방 떠오르는 천재의 정의는 대강 다음과 같다. 천재란 쉽게 그리고 젊은 나이에 아무도, 혹시 한다고 해도 몇 년의 수련 없이는 할 수 없는 것을 할 수 있는 사람이다. 천재들의 성취에는 마법같은 특성이 있다 ― 그들의 두뇌는 우리들보다 더 효율적으로 동작할 뿐 아니라 작동 방식 자체가 달라 보인다. 매 1, 2년마다 그 학생을 가르칠 사람을 포함한 대부분의 사람들이 몇 시간이나 걸려 푸는 문제들을 어김없이 몇 분 안에 풀어내는 학생이 캠브리지에 입학하고 한다. 그런 사람을 만나면 그저 뒤로 물러서서 경탄할 뿐이다.

그런데 이 평범치 않은 사람들이 항상 연구자로 가장 성공하는 것은 아니다. 만일 여러분이 이전에 다른 전문 수학자들이 시도하였지만 풀지 못한 문제를 풀고 싶어한다면, 여러분에게 필요할 많은 자질중에 내가 위에서 정의한 천재성은 필요하지도 충분하지도 않다. 극단적인 예로, 앤드류 와일즈 (Andrew Wiles)는 (40을 갓 넘긴 나이 에) 페르마의 마지막 정리(\(x, y, z\) 와 \(n\)이 양의 정수이고 \(n\)이 \(2\)보다 크면, \(x^n + y^n\)은 \(z^n\)과 같을 수 없다)를 증명하여 세계에서 가장 유명한 미해결 수학 문제를 풀었는데, 그는 의심할 바 없이 매우 똑똑하지만, 내가 앞서 정의한 의미의 천재는 아니다.

여러분은 그러면 그가 어떻게 어떤 신비로운 특별한 두뇌 능력없이도 그런 일을 해냈는지 물을 것이다. 대답은, 그의 성취가 범상치 않기는 하지만, 설명할 수 없을 만큼 범상치 않은 것은 아니라는 것이다. 그를 성공으로 이끈 것이 무엇인지 상세하게 알 수는 없지만, 대단한 용기, 결단력, 인내, 다른 수학자들이 한 매우 어려운 연구 에 대한 폭넓은 지식, 적절한 시기에 적절한 수학 분야를 연구하는 행운, 그리고 예외적인 전략 능력을 발휘했을 것이다.

궁극적으로 마지막 자질이 유별난 두뇌 속도보다 더 중요하다. 수학에서 가장 심오한 공헌은 많은 경우 토끼보다 거북이가 이룬다. 수학자들은 성장하면서, 다른 수학자들의 연구에서, 또 수학을 생각 하면서 보낸 많은 시간의 결과로 다양한 요령을 배운다. 자신의 전문지식을 사용하여 악명높은 문제를 풀 수 있을지 여부를 결정하는 것은, 크게 보면 조심스러운 계획의 문제이다. 조심스런 계획이란 결실을 얻을 수 있을 것 같은 문제를 시도하기, (하기 힘든 결정인) 언제 포기할지 알기, 가끔씩 세부 내용을 어떻게든 채우기 전에 미리 논증의 큰 윤곽을 그리기 등이다. 여기에는 천재성과 양립할 수 없는 것은 아니지만 천재성에 자동으로 딸려오는 것은 아닌 일정 수준의 성숙함이 필요하다.

146

게다가 수학적 재능이 있는 소녀들은 역할 모델이 거의 없어서 상황이 악순환된다. 그 다음 단계에서 작용할 수 있는 사회적 요인은 수학은 대부분의 학문보다 더 어떤 한 일에만 마음 쓰는 것(single-mindedness)이 필요한데, 이는 물론 불가능하지는 않지만 모성과 양립하기 어렵다는 것이다. 예전에 소설가 캔디아 맥윌리엄(Candia McWilliam)이 자녀 한 명을 키울 때마다 책 두 권을 희생했다고 말한 적이 있다. 그래도 적어도 그녀는 소설에서 손을 뗀 지 몇년 지난 뒤에도 다시 글을 쓸 수 있었다. 수학은 몇 년 쉰다면 공부하던 흐름에서 벗어날 것이고 수학으로 복귀하기가 매우 어려워질 것이다.

150

그러한 학생들은 더 추상적인 접근으로부터 얻는 바가 있을 수 있다. 2장에서 지적했듯이, 거듭제곱에 관해 알아야할 모든 것은 몇개의 매우 간단한 규칙들로부터 연역될 수 있고, 그 중에서 가장 중요한 것은 \(x^{a+b} = x^ax^b\)이다. 만일 이 규칙이 강조되었다면, 위의 실수가 애초에 덜 생길 뿐만 아니라 고치기도 더 쉽다. 실수를 한 어린이에게 간단하게 적절한 규칙을 적용하는 것을 잊었다고 말해주면 된다. 물론, 이 \(x^3\)이 \(x\) 곱하기 \(x\) 곱하기 \(x\) 라는 기본적인 사실에 친숙해지는 것이 중요하지만, 이것은 규칙에 대한 정당화라기보다 규칙의 결과로 제시할 수 있다.

나는 학생들에게 추상적 접근이 무엇인지 설명하려 해야 한다고 제안하고 싶지 않다. 다만 교사는 그 결과에 대해 알고 있어야 한다고 하고 싶다. 요점은 어떤 수학적 개념이 무엇을 의미하는지 엄밀하게 말할 수 없어도 그것을 올바르게 사용하는 법을 배울 수 있다는 것이다. 이것이 좋지 않은 생각으로 들릴지 모르지만, 사용법이 때로 더 가르치기 쉽고, 사용법을 넘어서 그리고 초월하여 어떤 의미가 있다면, 종종 그 의미에 대해 저절로 더 깊게 이해하게 된다.

152

6. 수학에서 연구가 어떻게 가능한가?

역으로 수학적 연구의 가능성에 관해 무엇이 그렇게 역설적으로 보이는가라고 물을 수도 있겠다. 나는 이 책에서 몇 가지 미해결 문제들을 언급하였는데, 수학적 연구는 주로 그것들과 그에 유사한 것들을 풀려고 노력하는 데 있다. 7장을 읽었다면 문제를 생성하는 좋은 방법은 명확하게 분석하기에 너무 어려운 수학적 현상을 택 하여 그에 관한 근사적인 서술을 하는 것임을 알게 될 것이다. 또 다른 방법은 6장 끝에 제시되었는데, 4차원 다양체와 같은 어려운 수학적 개념을 선택하면, 그에 관한 간단한 질문일지라도 대체로 쉽게 답할 수 없다.

수학적 연구에 관하여 신비로운 것이 있다면 그것은 어려운 문제가 존재한다는 것이 아니라 ― 사실 불가능하게 어려운 문제를 만들어 내는 것은 아주 쉽다 ― 수천 명의 수학자를 열중하게 만들 적절한 난이도를 가진 문제가 충분히 많다는 것이다. 수학자를 열중하게 하려면 그 문제들이 확실하게 도전적이어야 하지만 또한 해결될 수 있다는 막연한 희망도 품게 만들어야 한다.

152~155

7. 유명한 수학 문제가 어느 아마추어에 의해 해결될 수 있을까?

이 질문에 대한 간단하고 오해의 소지가 제일 적은 답은 솔직히 아니오이다. 전문 수학자는 아주 일찍 잘 알려진 문제에 관해 그가 생각한 그 어떤 아이디어도 그 이전에 많은 사람들이 생각했었다는 것을 배운다. 어떤 아이디어가 새로운 것이려면 왜 아무도 이전에 그것을 생각하지 않았는지 설명할 어떤 특성을 지녀야 한다. 단순히 그 아이디어가 놀랍도록 독창적이고 예상치 못한 것일 수도 있지만 이는 매우 드문 일이다. 대체로 어떤 아이디어가 출현한다면 그저 갑자기 떠오르기보다 합당한 이유로 출현한다. 그리고 그것이 여러분에게 떠오른다면 왜 다른 이에게는 떠오르지 않아야 하는가? 더 그럴듯한 이유는 그 아이디어가 특별히 잘 알려지지는 않았지만 여러분이 배우고 소화하는 수고를 아끼지 않은 다른 아이디어들과 관련되어 있기 때문이다. 그것은 적어도 다른 이들이 여러분 이전에 생각했을 확률을, 0 까지는 아니지만, 줄여준다.

세계 곳곳에 있는 수학과에서는 꾸준하게 유명한 문제를 풀었다고 주장하는 사람들로부터 편지를 받는데, 거의 예외 없이 이 ‘풀이’ 들은 그저 틀린 정도가 아니라 말도 안 되게 틀렸다. 일부는, 확실하게 오해한 것이 아니라면, 무언가의 올바른 증명과는 너무 닮지 않아서 결코 풀이를 시도한 것이라고 할 수 없다. 수학을 발표하는 관례를 조금이라도 따르는 것들은 논법이 맞는다면 수 세기 전에 발견되었을 매우 초보적인 논법을 사용한다. 이런 편지를 쓰는 사람들은 수학 연구가 얼마나 어려운지, 독창적인 연구를 하기 위해 충분한 지식과 경험을 개발하기 위해 몇 년의 노력이 필요한지, 또는 수학을 할 때 협동 활동을 어느 정도 해야 하는지에 관한 개념이 없다.

많은 연구 논문이 두 명 혹은 세 명의 저자로 되어 있긴 하지만, 내가 협동 활동이라 말할 때 수학자들이 큰 집단으로 연구한다는 뜻이 아니다. 그보다 내 말은 수학이 발전함에 따라 어떤 종류의 질문에 답하려면 없어서 안 될 새로운 기법이 발명된다는 것이다. 그 결과 수학자 각 세대는 이전 수학자의 어깨 위에 서서 한 때 닿을 수 없는 것으로 여겨졌던 문제를 푼다. 여러분이 수학의 주류에서 고립되어 연구한다면 이러한 기법을 스스로 만들어 내야 할 것이고, 그래서 여러분은 심하게 불리한 처지에 놓이게 된다.

이는 아마추어는 수학에서 결코 의미있는 연구를 할 수 없다는 뜻은 전혀 아니다. 사실 한 두 사례가 있다. 1975년에 수학적 훈련을 거의 받지 않은 주부인 샌디에고의 마조리 라이스 (Marjorie Rice)는 사이언티픽 어메리칸 (Scientific American)에서 문제를 읽고 평면을 (정오각형은 아닌) 오각형으로 덮는 새로운 방법 세 가지를 발견 하였다. 그리고 1952 년에 58세인 독일의 학교 교장 쿠르트 헤그너 (Kurt Heegner)는 일세기 동안 미해결이었던 가우스의 유명한 추측을 증명하였다.

그러나 이러한 사례는 내가 말하는 바와 모순되지 않는다. 수학의 본체와 밀접하게 관련되어 보이지 않는 문제들이 더러 있으며, 그리고 그러한 문제에는 기존의 수학적 기법을 아는 것이 특별히 도움이 되는 것이 아니다. 새로운 오각형 덮기를 찾는 문제도 그런 종류였다. 전문 수학자가 재능있는 아마추어보다 그것을 풀기에 더 잘 갖추지는 않았을 것이다. 라이스의 성취는 새로운 혜성을 발견하는 아마추어 천문가의 성취와 꽤 유사하다 ― 그에 따르는 명성은 오랜 탐색에 대한 아주 당연한 보상이다. 헤그너에 관해 말하자면, 그는 전문 수학자는 아니었지만 고립되어 연구하지 않았다. 특히 그는 모듈라 함수에 관하여 가르쳤다. 여기서 그게 무엇인지 설명할 수 없다 ― 사실 그것은 보통은 학부 수학 과목으로서도 너무 상급으로 여겨진다.

흥미롭게도 헤그너는 증명을 완전하게 통용되는 방식으로 상세하게 쓰지 않아서 논문이 마지 못해 게재되었지만 여러 해 동안 틀린것으로 여겨졌었다. 1960년대 말에, 독립적으로 알란 베이커 (Alan Baker) 와 해롤드 스타(Harold Star) 에 의하여 그 문제는 다시 풀렸고, 그때서야 헤그너의 연구가 조심스럽게 다시 조사되어 결국 옳은 것으로 밝혀졌다. 유감스럽게도 헤그너는 1965년에 세상을 떠서 생전에 자신의 명예가 회복되는 것을 보지 못했다.

추가 참고도서

수학의 중요한 측면들 중에 이 책에서 다를 여유가 없었던 것들이 다소 있다. 그래서 그에 관한 책들을 소개하려 한다. 수학의 역사에 관해서는, 이 책보다 더 많은 수학 지식을 요구하지만, 이 주제에 관한 모리스 클라인 (Morris Kline)의 권위 있는 세 권짜리 책, ‘고대에서 현대까지의 수학적 사고’(Mathematical Thought from Ancient to Modern Times, Oxford University Press, 1972) 를 능가하는 책은 거의 없을 것이다. 수학 지식이 일상 생활에서 좋은 판단을 하는데, 어떻게 영향을 미칠 수 있는지에 관한 책으로는 존 알렌 파울로스 (John Allen Paulos)의 ‘수학 문맹’ (Innumeracy, Viking, 1989) 이 있는데 이 책은 이에 관해 고전으로 빠르게 자리잡고 있다. 톰 코너 (Tom Korner)의 ‘계산의 즐거움’(The Pleasures of Counting, Cambridge University Press, 1996)은 수학의 응용에 관하여 내가 이야기한 것보다 더 많이 그리고 더 재치있게 이야기하고 있다. 커런트 (Courant)와 로빈스(Robbins)의 ‘수학이란 무엇인가?' (What is Mathematics?, Oxford University Press, 2nd edn., 1996)는 또 다른 고전이다. 그 책은 이 책과 의도가 비슷하지만, 더 길고 조금은 더 형식적이다. 데이비스 (Davis)와 허시 (Hersch)의 ‘수학적 경험’(The Mathematical Experience, Birkhiiuser, 1980)는 수학에 관한 재미있는 에세이 집으로서 철학적 성향을 띠고 있다. 나는 확률에 관하여 더 많이 이야기하고 싶었으나 그러지 못했다. 대신 이바르 에케란트 (Ivar Ekeland) 가 무작위와 그의 철학적 함의에 관하여 '수학과 예측 곤란’ (Mathematics and the Unexpected, University of Chicago Press, 1988) 에서 잘 설명하고 있다.

21쪽에 있는 인용문은 소쉬르의 ‘일반언어학강의’(Course in General Linguistics, McGraw-Hill, 1959) 와 비트겐슈타인의 ‘철학적 탐구’(Phisosophical Investigations, Blackwell, 3rd edn., 2001) 에서 온 것이다. 이 책과 ‘철학적 탐구’를 읽은 사람이라면 후기 비트겐슈타인이 나의 철학적 견해, 특히 추상적 방법에 관한 견해에 얼마나 많은 영향을 끼쳤는지 알 것이다. 러셀과 화이트헤드의 유명한 ‘수학의 원리’(Principia Mathematica, Cambridge University Press, 2nd edn., 1973)는 쉽게 읽히지는 않지만, 초보적인 사실에 관한 나의 몇몇 증명이 장황하다고 생각한다면 이들의 1+1 = 2의 증명을 찾아 비교해 보기를 권한다. 8장에서 논의한 수학에서의 여성이라는 주제에 관해서는 최근에 나온 책으로 클로디아 헨리언 (Claudia Henrion) 의 ‘수학 속의 여성 : 차이의 합’(Women in Mathematics: The Addition of Difference, Indiana University Press, 1997)과 마가렛 머리 (Margaret Murray)의 ‘수학자가 된 여성들 : 2차대전후 미국에서 직업적 정체성 만들기'(Women Becoming Mathematicians: Creating a Professional Identity in Post-World War II America, MIT Press, 2000) 가 훌륭하다.

마지막으로 여러분이 이 책을 즐겁게 읽었다면 내가 이 책을 짧게 하려고 초고에서 마지못해 여러 절과 완전한 한 장을 통째로 들어냈다는 것을 알면 좋을 수도 있겠다. 그 자료 중 일부를 나의 홈페이지(http://www.dpmms.cam.ac.uk/~wtg10) 에서 찾아볼 수 있다.