1003 아주 짧게 소개하는 수학

Timothy Gowers (지은이), 박기현 (옮긴이) | 교우사(교재) | 2013-03-02

얼마전에 읽은 ‘수학이 필요한 순간’보다 훨씬 더 좋은 책이다.

2

이러한 반대 의견에 ― 그 중 일부는 분명히 다른 것들보다 더 심각한데 ― 비추어 볼 때, 계산과 거기서 나오는 예측에 대해 어떤 태도를 취해야 할까? 한 가지 접근법은 가능한 많은 반대 의견을 고려하는 것일 수 있겠다. 그러나 훨씬 더 합리적인 대책은 정반대이다. 즉 어느 수준의 정밀도가 필요한지 정한 다음 가능하면 단순하게 이에 맞추는 것이다. 어떤 단순화 가정이 답에 끼치는 영향이 아주 작다는 것을 경험으로 안다면, 그 가정을 받아들이는 것이 낫다.

20~21

체스에서 흑의 왕은 무엇인가? 이 별난 질문에 대처하는 가장 적합한 방법은 약간 옆으로 피하는 것인 듯 하다. 사람들이 대체로 그러듯 체스판을 가리고 게임의 규칙을 흑의 왕에게 특히 주의를 기울여 설명하는 이상 더 무엇을 할 수 있는가? 흑의 왕에 있어 중요한 것은 그것의 존재 또는 그 내재적 본질이 아니라 게임에서 하는 역할이다.

수학에서 종종 말하는 추상적 방법은 수학적 대상에 이러한 태도를 취할 때 생겨나는 것이다. 이러한 태도는 다음 슬로건으로 요약할 수 있다. 수학적 대상은 곧 그것의 역할이다. 비슷한 슬로건이 언어철학에도 여러 번 출현했으며, 이런 슬로건은 논쟁거리가 될 수 있다. 예를 들어 소쉬르(Ferdinand de Saussure)는 ‘언어에는 단지 차이만 있다’라고 하였고 비트겐슈타인(Ludwig Wittgenstein)은 ‘단어의 의미는 언어에서 그의 용법이다’라고 하였다(추가 참고 도서를 참조하라). 또 논리 실증주의자들의 구호인 ‘한 명제의 의미는 그것의 검증방법이다’도 있다. 철학적 이유로 내 말이 탐탁지 않다면, 내 말을 독단적 선언으로 간주하기보다는 경우에 따라 취할 수 있는 태도라고 생각하길 바란다. 사실은, 내가 보이고자 하는 것처럼, 고등 수학을 제대로 이해하기 위해서는 이를 받아들일 수 있는 것이 중요하다.

39

그 개념들을 구체화하여 이해하려고 하면 수수께끼 같이 느껴지겠지만, 그것들이 무엇인가를 알려고 고민하지 말고 느긋하게 추상적인 방법을 사용하면 그것들은 더 이상 불가사의하지 않게 된다.

73

다시 한번 우리는 무한을 포함하는 명제는 근사에 관한 더 복잡한 명제를 표현하는 편리한 방식이라고 간주하고 있다. 더 시사하는 바가 많을 수도 있는 또 다른 단어로 ‘극한’이 있다. 무한 소수는 유한 소수 수열의 극한이고, 순간 속도는 점점 더 짧은 시간 동안 움직인 거리를 재어 계산한 근사치의 극한이다. 수학자들은 종종 ‘극한에’ 또는 ‘무한에’ 무엇이 벌어지는지 말하지만, 그들은 스스로 하는 일을 잘 알고 있어서 그들이 말 그대로를 의미하는 것은 아니다. 수학자들에게 의미하는 바를 정확하게 말하라고 하면 수학자들은 대신 근사에 관하여 말하기 시작할 것이다.

77

넓이에 관해 다른 식으로, 어쩌면 더 명확하게, 말할 수도 있다. 만일 경계가 곡선인 도형이 정확하게 넓이가 12 제곱센티미터이고, 내가 이를 정사각형 격자를 이용하여 보여야 한다면 나로서는 불가능하 다 ― 무한히 많은 정사각형이 필요할 것이다. 그러나 만일 12가 아닌 예를 들어 11.9를 나에게 제의한다면 정사각형 격자를 이용하여 그 도형의 넓이가 그 수가 아니라고 단정적으로 증명할 수 있다. 남은 넓이가 0.1 제곱센티미터보다 작을 정도로 충분히 세밀한 격자를 택하기만 하면 된다. 다른 말로 하면 넓이가 12라는 것을 증명하는 대신에 넓이가 12 외의 어느 것도 아니라는 것을 증명하는 것이라면 무한을 사용하지 않고도 할 수 있다. 도형의 넓이는 아니라고 증명할 수 없는 단 하나의 수이다.

126

사람들은 대개 수학이 몹시 깔끔하고 정밀한 학문이라고 생각한다. 학교에서는 수학 문제가 간결하게 서술되면 그 답도 짧고 대체로 간단한 수식으로 주어질 것이라 기대하게 만든다. 대학 수준에서 수학 공부를 계속하면, 특히 수학을 연구하게 되면 곧 진실을 알게 된다. 많은 문제에 있어 해에 대한 정확한 공식을 찾았다면 이는 기적과 같고 완전히 뜻밖의 일로 여겨질 것이다. 대부분의 경우에 그저 대략적인 근사치로 만족해야 하기 때문이다. 근사치에 익숙 해지기 전까지는 근사치들이 보기 흉하고 성이 차지 않게 보인다. 그러나 수학에서 가장 위대한 정리들과 가장 흥미로운 미해결 문제 중 많은 것을 계속 놓치지 않으려면 근사치들을 음미할 수 있어야 한다.

143~145

일반적으로 대중이 생각하는 전형적인 수학자 상은 ― 어쩌면 매우 똑똑하지만, 또한 독특하고, 옷을 이상하게 입고, 남성인지 여성인지가 모호하며, 반 자폐적인 ― 호감을 주는 모습이 아니다. 몇몇 수학자는 어느 정도 이런 고정 관념에 부합하지만, 이 고정 관념에 부합하지 않으면 수학을 잘할 수 없다고 생각하는 것만큼 어리석은 일도 없다. 사실 다른 모든 것이 같다면 아마 괴짜보다 여러분이 우위에 있을 것이다. 수학을 공부하는 학생 중 단지 극소수만 마침내 수학연구자가 된다. 대부분 그 이전 단계에서, 예를 들면 흥미를 잃어서, 박사 학위를 취득하지 못하여, 박사 학위는 취득했지만 대학에서 일자리를 구하지 못하여 다른 길로 가고 만다. 내가 받은 인상으로는, 그리고 이렇게 생각하는 사람은 나 뿐만이 아닌데, 이런 다양한 단계에서 생존한 사람들 중 괴짜의 비율은 처음에 학생들에서 차지하는 비율보다 보통 더 적다.

수학자에 관한 이런 부정적 묘사가 수학을 즐기고 잘했을 사람들의 의욕을 떨어뜨려 해를 끼쳤을 수 있지만, ‘천재’ 라는 말이 끼친 폐해는 숨어서 작용하며 더 심각하고 클 것이다. 금방 떠오르는 천재의 정의는 대강 다음과 같다. 천재란 쉽게 그리고 젊은 나이에 아무도, 혹시 한다고 해도 몇 년의 수련 없이는 할 수 없는 것을 할 수 있는 사람이다. 천재들의 성취에는 마법같은 특성이 있다 ― 그들의 두뇌는 우리들보다 더 효율적으로 동작할 뿐 아니라 작동 방식 자체가 달라 보인다. 매 1, 2년마다 그 학생을 가르칠 사람을 포함한 대부분의 사람들이 몇 시간이나 걸려 푸는 문제들을 어김없이 몇 분 안에 풀어내는 학생이 캠브리지에 입학하고 한다. 그런 사람을 만나면 그저 뒤로 물러서서 경탄할 뿐이다.

그런데 이 평범치 않은 사람들이 항상 연구자로 가장 성공하는 것은 아니다. 만일 여러분이 이전에 다른 전문 수학자들이 시도하였지만 풀지 못한 문제를 풀고 싶어한다면, 여러분에게 필요할 많은 자질중에 내가 위에서 정의한 천재성은 필요하지도 충분하지도 않다. 극단적인 예로, 앤드류 와일즈 (Andrew Wiles)는 (40을 갓 넘긴 나이 에) 페르마의 마지막 정리(r, y, z 와 n이 양의 정수이고 n이 2보다 크면, \(x^n + y^n\)은 \(z^n\)과 같을 수 없다)를 증명하여 세계에서 가장 유명한 미해결 수학 문제를 풀었는데, 그는 의심할 바 없이 매우 똑똑하지만, 내가 앞서 정의한 의미의 천재는 아니다.

여러분은 그러면 그가 어떻게 어떤 신비로운 특별한 두뇌 능력없이도 그런 일을 해냈는지 물을 것이다. 대답은, 그의 성취가 범상치 않기는 하지만, 설명할 수 없을 만큼 범상치 않은 것은 아니라는 것이다. 그를 성공으로 이끈 것이 무엇인지 상세하게 알 수는 없지만, 대단한 용기, 결단력, 인내, 다른 수학자들이 한 매우 어려운 연구 에 대한 폭넓은 지식, 적절한 시기에 적절한 수학 분야를 연구하는 행운, 그리고 예외적인 전략 능력을 발휘했을 것이다.

궁극적으로 마지막 자질이 유별난 두뇌 속도보다 더 중요하다. 수학에서 가장 심오한 공헌은 많은 경우 토끼보다 거북이가 이룬다. 수학자들은 성장하면서, 다른 수학자들의 연구에서, 또 수학을 생각 하면서 보낸 많은 시간의 결과로 다양한 요령을 배운다. 자신의 전문지식을 사용하여 악명높은 문제를 풀 수 있을지 여부를 결정하는 것은, 크게 보면 조심스러운 계획의 문제이다. 조심스런 계획이란 결실을 얻을 수 있을 것 같은 문제를 시도하기, (하기 힘든 결정인) 언제 포기할지 알기, 가끔씩 세부 내용을 어떻게든 채우기 전에 미리 논증의 큰 윤곽을 그리기 등이다. 여기에는 천재성과 양립할 수 없는 것은 아니지만 천재성에 자동으로 딸려오는 것은 아닌 일정 수준의 성숙함이 필요하다.