1. 가입인사

안녕하세요. 이번에 아크로에 가입하게 된 "인문계"라고 합니다. 닉네임을 저렇게 지은 이유는 고등학교에서 문과 교육을 받았기 때문입니다. 하지만 성인이 된 지금 문과 교육을 받은걸 많이 후회하고 있습니다. 제 취미가 과학서적을 읽는 것인데, 수학에 대한 지식이 부족해 번번히 막힐 때가 많거든요.

 

사실 저는 꽤 오래된 게시판 방문자입니다. 스켑렙 시절부터 쭉 눈팅해 왔고, 게시판 분리 이후에도 가끔씩 들러서 여기서 작성된 글들을 보고 있습니다. 피노키오님, 미누에님, 하하하님, 이덕하님 등의 글을 재미있게 읽고 있습니다. 눈팅만 하다가 갑자기 가입을 한 이유는 『괴델 에셔 바흐』에 대한 번역비판을 감명깊게 읽었기 때문입니다. 궁금한걸 물어보고 같이 의견도 나누고 하면 참 좋을 것 같아서요.

 

저는 고등학교에서 문과교육을 받고 사회과학을 전공하였지만, 역설적으로 정치나 사회에 대한 깊은 식견은 없는 것 같습니다. 그래서 제가 좋아하는 (하지만 잘 알지 못하는) 과학분야에 대한 글을 가끔씩 써보려고 합니다.

 

 

 

2. 『괴델의 증명』 리뷰

저는 『괴델의 증명』(어니스트 네이글, 제임스 뉴먼 저)을 너무 재미있게 읽었습니다. 시중에 교양과학 서적으로 나와있는 책들 중 상당수는 교양서적일 뿐 과학서적이 아닌 경우가 많습니다. 유명한 과학자의 특이한 일화를 몇 가지 소개하는 것에 그치고, 그 과학자가 제기한 이론을 잘 설명해 주는 책은 드문 편입니다. 그런데 『괴델의 증명』은 괴델이 증명한 수학적 정리를 "제대로" 설명하고 있었기 때문에 만족감이 매우 높았습니다. 150페이지 남짓한 컴팩트한 책이지만, 수학에 대한 훈련을 받지 않은 저에게는 꽤 어려웠고, 그만큼 다 읽고 나서 느끼는 쾌감도 컸습니다.

 

말붙이기 좋아하는 이들은 "괴델의 증명을 통하여 인간 이성의 첨단에 서 있는 수학에 근본적인 결함이 입증되었다."거나 "과학이나 이성으로 이해할 수 없는 신비한 영역이 존재한다."는 식의 해석을 내놓습니다. 그러나 이 책은 괴델의 증명이 가진 철학적, 사회적 함의를 설명하지는 않습니다. 괴델의 증명의  결과가 아니라 그것이 도출된 "과정"을 일반인이 이해할 수 있도록 서술하는 것이 이 책의 목적입니다. 그리고 제 기준으로 봤을 때 공통수학 정도의 수학교육을 받은 이들이 주의깊에 읽으면 이 책을 이해할 수 있습니다.

 

 

 

3. 괴델의 증명에 대한 간략한 소개

비전공자이지만 괴델의 증명에 대하여 간략하게 소개하고 싶습니다. 문과교육을 받은 사람이 이해하는 범위에서의  소개이므로 당연히 오류가 있을 수 있습니다.

 

괴델의 불완전성 정리에 대하여 위키백과는 이렇게 소개하고 있습니다.

 

"산술체계를 포함하며 모순이 없는 모든 공리계에는 참이지만 증명될 수 없는 명제가 존재하며, 또한 그 공리계는 자신의 무모순성을 증명할 수 없다."

 

좀 어렵습니다. 이 말을 이해하려면 수학이 뭔지에 대해서 우선 생각할 필요가 있습니다. 수학이란 특정한 수학적 진술에 대한 "증명"을 업으로 하는 학문입니다. 그리고 수학자들은 귀납적 방법은 그렇게 가치있게 생각하지 않습니다. 주변에 많은 사례들이 그 진술이 참이라는 것을 강력하게 시사하고 있어도 "연역적 방법"을 통해 증명되지 않으면, 그 진술을 참인 명제로 받아들이지 않죠.

 

연역적 방법을 통해 특정한 진술을 증명하려면, 먼저 전제가 필요합니다. 수학자들은 몇 개의 명제를 증명없이 참이라고 가정하고, 이를 토대로 논리적 추론과정을 거쳐서 증명을 해냅니다. 이 때 증명없이 참으로 가정된 명제를 "공리"라고 할 수 있습니다. 예를 들어 유클리드 기하학은 "임의의 점과 다른 한 점을 연결하는 직선은 단 하나뿐이다."와 같이 별것 아닌 것으로 보이는 명제 5개를 공리로 정하고, 이를 토대로 우리가 중학교에서 배운 "삼각형 내각의 합은 180도이다."와 같은 갖가지 기하학적 진술을 증명합니다. 즉, 유클리드 기하학이란 불과 5개밖에 안되는 공리 위에 서있는 거대한 건축물 같은 존재죠.

 

여기서 한가지 문제가 있습니다. 공리를 토대로 도출된 여러 명제들 중 모순이 있는 명제가 있으면 그 수학적 체계의 신뢰성에 금이 가게 됩니다. 예를 들어, 동일한 공리를 토대로 "1+1=2"라는 명제와 "1+1=3"이라는 명제가 동시에 추론된다면 그 수학적 체계(공리계)는 명제의 참과 거짓을 밝혀줄 수 있는 믿을만한 체계가 아니죠. 그래서 수학자들은 자신들이 세운 수학적 체계가 모순없이 성립되기를 바랍니다.

 

그런데 괴델이 증명한 것은 수학적 체계에 모순이 없다는 것은 그 수학적 체계가 자체적으로 증명할 수 없다는 것입니다. 즉, 수학적 체계는 자신이 믿을만한 체계인지 스스로 입증할 수 있는 수단을 갖지 못하고 있다는 말입니다. 이 때문에 수학적 체계가 수학자들의 바람과 달리 그렇게 믿을만하거나 강력한 것은 아닐 수 있다는 거죠.(증명의 의미에 대한 지식은 이정도까지라 여기서 그만하겠습니다.)

 

 

 

 

4. 괴델의 증명 과정에 대한 간략한 소개

괴델의 증명의 진정한 아름다움은 증명과정에 있습니다. 증명과정에 사용된 아이디어는 "자기언급의 역설"이라는 매우 간단한 것입니다. 크레타인 A가  "모든 크레타인은 거짓말쟁이다."라고 한다면, 이 진술은 참일까요 거짓일까요. 이 진술이 참이라면 참인 진술을 한 크레타인A가 존재하니까 이 진술은 거짓이 되고, 반대로 거짓이라면 모든 크레타인은 참을 말하여야 하므로 크레타인A가 말한 진술 역시 참이되어야 합니다.(자세히 분석하면 약간의 논리적 공백은 있지만 접어둡시다 ㅎㅎ.)

 

크레타인 역설은 일종의 속임수 같기도 합니다. 왜냐하면 특정한 진술의 참/거짓을 판별하는 것이 목적인데, 갑자기 그 진술을 말한 사람의 신분을 가지고 와서 모순을 만들어 내기 때문입니다. 따라서 이런 역설은 정교하게 정의된 수학적 체계에서는 나타나지 않을 수도 있습니다. 특정한 수학적 체계를 만들기 전에 그 체계가 다루는 대상과 범위를 잘 정의하면, 그 진술을 말한 사람의 신분과 같은 갑자기 튀어나온 근거를 대며 "모순적이군"이라고 주장하는 사태를 사전에 방지할 수도 있겠죠.

 

이를 좀더 수학적인 버전으로 이해하면 다음과 같습니다. 우선 수학적 진술과 상위수학적 진술을 구분할 필요가 있습니다. 수학적 진술은 그 수학적 체계에서 허용되는 명제들입니다. 그리고 상위수학적 진술은 수학적 체계 밖에서 수학적 체계를 평가하는 진술입니다. 이렇게 구분하면, 상위수학적 진술을 근거로 특정한 수학적 체계의 모순/무모순을 판별하는 것은 반칙입니다. 수학적 체계의 모순/무모순은 수학적 체계가 허용하는 진술들을 비교해서 판별해야 하는데, 갑자기 그 체계에서 허용하지 않는 이상한 놈을 근거로 모순성을 판별하는 것이기 때문입니다. 따라서 수학자들은 진술들의 층위를 잘 구분해서 모순성을 제거할 수 있다고 보았죠.

 

여기서 괴델은 천재적인 발상을 하게 됩니다. 바로 "괴델 수 붙이기"라는 것입니다. 이게 뭐냐면, 방금 말씀드린 상위수학적 진술(크레타인 역설에 비교하면, 크레타인의 신분)에 숫자를 부여해서, 상위수학적 진술을 수학적 체계에서 존재하는 진술로 변환하는 것입니다. 즉, 동일한 수학적 체계 내에서 "자기언급의 역설"이 나타나도록 조작한 것이죠. 이 작업이 성공적으로 수행되면, 상위수학적 진술이나 크레타인의 신분은 더이상 밖에서 툭 튀어나온 이상한 놈이 아니라, 해당 수학적 체계에서 허용되는 명제로 변합니다.

 

결국 괴델은 크레타인 사례를 통해 널리 알려진 "자기언급의 역설"을 수학적 버전으로 번역하여, 잘 정의된 수학적 체계에서도 자기언급의 역설이 초래되도록 만든 것입니다. 이를 통해 수학적 체계(공리계)의 한계를 밝혀준 것이지요. 『괴델의 증명』에서는 그 과정이 정말로 아름답게 설명되어 있습니다. 조금은 어려울 수 있지만, 다 읽고 나면 증명과정이 정말 아름답다는 생각을 하게 됩니다.

 

 

앞으로도 과학분야에 관심있는 주제에 대해서 가끔씩 글을 올리거나 물어보도록 하겠습니다. 잘 부탁드립니다.