괴델의 불완전성 정리 이해

김진섭

2015년 10월 16일

요 약

불완전성 정리의 내용과 증명의 핵심 아이디어를 이해하는 것을 목표로 한다.

제 1 절 서론

괴델의 불완전성 정리에 대한 많은 책들이 시중에 출판되어 있다. 허나 대부분이 역사와 증명의 의미에 치중

되어있고실제증명의아이디어를설명한책은거의없으며,있다고하더라도외국서적을번역하면서난해한

표현이 많이 나와 이해하기가 어렵다. 이에 본 글에서는 불완전성 정리 증명의 핵심적인 아이디어를 크게

수학(mathematics)과 메타수학(meta-mathematics), 괴델수(Godel number), 메타수학의 수학화의

3가지로 나누어 설명하겠다. 본 글이 불완전성정리의 아름다움을 느끼는 데 도움이 되길 바란다.

제 2 절 수학(mathematics)과 메타수학(meta-mathematics)

보통 불완전성 정리에 대한 책들에서는 간략하게 증명의 개요만 언급하는데 그것은 아래와 같다.

G : G는 증명불가능하다. (1)

만약 G가 거짓이라면 G는 증명가능하므로 참이된다. 이는 G가 거짓이라는 데 모순이다. 따라서 G는 참인데

G의 내용은 G가 증명불가능하다는 것이므로 결국 G는 참이지만 증명불가능한 명제라는 것이다. 이 설명을

보고 고개를 끄덕 인 후 증명이 끝난 것 아닌가? 라는 생각을 할 수도 있을 것이다. 그러나 명제 내부에

명제 자신을 언급한 순환논리부분을 해결하지 않으면 안되고 사실 불완전성정리의 핵심부분도 이 부분이며

수학의 명제와 메타수학의 명제를 구분하는 것이 이해의 시작이 된다.

2.1 수학 명제와 메타수학 명제의 차이점

아주 간단한 수학 명제 하나를 살펴보자.

1 + 1 = 2 (2)

1

이 표현은 수학에 속한 표현이다. 이제 다음 명제를 살펴보면

“1 + 1 = 2”는 수학 명제이다. (3)

이 진술은 앞에 나온 수학명제에 대해 무엇인가를 주장하고 있으며 따라서 수학이 아니라 메타수학의 명

제라고 할 수 있다. 비슷하게 x는 변수이다, “x = 1”은 방정식이다 들도 수학 명제가 아니라 메타수학의

명제이다. 수학과 메타수학을 구별하는 것은 몇 번을 강조해도 지나치지 않은데 이 구별에 소홀한 것이 수

많은 역설이 만들어지는 이유이기 때문이다. 이제 다시 식 (1)을 살펴보면 “G는 증명불가능하다” 는 명제는

수학의 명제가 아니라 메타수학의 명제가 되고 따라서 수학에서 쓰는 증명방법(귀류법)을 그대로 써서 대

충 주장하면 안되는 것이다. 괴델은 이 문제를 해결하기 위해 괴델수라는 독창적인 아이디어를 구사하여

메타수학의 명제를 수학의 명제로 바꾸었는데 괴델수부터 차근차근 알아보도록 하자.

제 3 절 괴델수(Godel number)

괴델수는 모든 기호, 변수, 명제, 명제묶음(증명)들에 유일한 숫자를 부여하는 것인데 몇가지 예를 들어보면

다음과 같다.

기호 괴델수 의미

∼ 1 아니다

∨ 2 또는

⊃ 3 · · ·라면 · · ·다∃ 4 · · ·이 존재한다= 5 같다

0 6 영(0)

s 7 바로 다음 수

( 8 왼쪽 괄호

) 9 오른쪽 괄호

, 10 쉼표

+ 11 더하기

× 12 곱하기

표 1: 상항기호

표 1의 기호들을 상항기호라고 하는데 이와 대응되는 개념은 변항(variable)기호인데 숫자 변항, 문장

변항, 술어 변항으로 나눌 수 있다. 숫자 변항에는 12보다 큰 소수, 문장 변항에는 12보다 큰 소수의 제곱수,

술어변항에는 12보다 큰 소수의 세제곱수를 부여하게 되며 예는 표 2와 같다.

이제 문장 (∃x)(x = sy) 를 살펴보자. 이것은 y 다음 수가 존재한다고 읽을 수 있으며 기본기호 하나하나

의 괴델수를 살펴보면 8, 4, 13, 9, 8, 13, 5, 7, 17, 9이며 문장 전체의 괴델수는 다음과 같이 소수를 이용하여

표현한다.

2

숫자변항 괴델수 대입 예

x 13 0

y 17 s0

z 19 y

문장변항 괴델수 대입 예

p 132 0 = 0

q 172 (∃ x)(x = sy):y의 다음 수 x가 존재한다.

r 192 p ⊃ q

술어변항 괴델수 대입 예

P 133 13은 소수이다.

Q 173

R 193

표 2: 변항기호

28 × 34 × 513 × 79 × 118 × 1313 × 175 × 197 × 2317 × 299 (4)

마찬가지로 증명에 대해서도 괴델수를 부여할 수 있는데 예를들어 증명이 두 서술로 되어 있고 각 서술의

괴델수가 m과 n이라면 증명의 괴델수는 2m × 3n 으로 표현한다. 이런식으로 모든 수학적 표현에 대해서

겹치지 않고 유일하게 괴델수를 부여할 수 있다. 한가지 예를 더 들면 괴델수 243,000,000은 26×35×56으로

소인수분해 되며 지수부분인 6,5,6은 각각 0, =, 0에 대응되므로 결국 “0 = 0”이라는 수학명제를 나타내게

된다.

제 4 절 메타수학의 수학화

괴델은 괴델수를 이용하여 메타수학의 명제를 수학의 명제로 바꾸는 데 성공하였는데 간단한 예를 들어보

겠다. “∼ (0 = 0)” 는 “0은 0이 아니다” 라는 단순한 수학 명제인 반면 “수학 명제 “∼ (0 = 0)”의 첫 번째

기호는틸드(∼)이다.”는수학명제가아니라메타수학의명제이다.그런데이메타수학의명제는적당한과정

을 거치면 수학명제로 바뀌게 되는데, 편의상 “∼ (0 = 0)”의 괴델수를 a라고 하고 표 1에서 “∼”의 괴델수가1임을 기억하자. 그렇다면 첫 번째 기호가 “∼”이라는 것은 곧 a를 소인수분해했을 때 제일 작은 소수인 2

의 지수가 1임을 의미하게 되고 메타수학의 명제는 “2는 a의 인수이지만 22은 a의 인수가 아니다.”와 같이

수학명제로 바뀌게 된다. 기호로 표현하기 위해 표현을 바꾸면 “y = z × 2인 z가 존재하고, y = z × 2× 2인

z는 존재하지 않는다.” 가 되며 실제로 이를 기호로 표현하면 다음과 같다.

(∃z)(sss · · · sss0 = z × ss0)· ∼ (∃z)(sss · · · sss0 = z × (ss0× ss0)) (5)

3

(sss · · · sss0에서 s는 정확히 a번 나타난다.)

이와 비슷한 방법으로 모든 메타수학의 명제를 괴델수를 이용하여 수학의 명제로 바꿀 수 있다.

제 5 절 불완전성 정리

이제 불완전성 정리를 천천히 이해해보자. “Dem”과 “Sub/sub”의 개념을 정의한 후 증명의 핵심 아이디

어로 들어가 보겠다.

5.1 Dem

“Dem”은 증명을 뜻하는 demonstration의 약자로 “Dem(x, z)”은 괴델수 x를 가진 문장묶음이 괴델수 z

를 가진 명제의 증명이다.”의 축약표현으로 정의한다. 예를 들어 피타고라스 정리 증명의 괴델수가 m이고

피타고라스 정리의 괴델수가 n이라면 Dem(m, n)이라고 쓸 수 있는 것이다.

5.2 Sub/sub

Sub은 치환 혹은 대입을 의미하며 소문자로 표현한 “sub(x,17,x)”는 “괴델수 x를 가진 명제”에 등장하는

변수 y들에 전부 “숫자 x”를 대입해서 만들어진 명제의 괴델수로정의한다(17은 y의괴델수임을기억하자).

한 편, s를 대문자로 표시한 “Sub(x,17,x)”는 괴델수가 아닌 명제 그 자체로 정의한다. 이해를 돕기 위해

식 (4)의 예를 다시 살펴보겠다. (∃x)(x = sy)는 앞서 설명했듯이 y 다음 수가 존재한다고 읽을 수 있으며

괴델수를 k라 하면 k = 28 × 34 × 513 × 79 × 118 × 1313 × 175 × 197 × 2317 × 299가 된다. 이제 y대신 k를

대입한다면 수정된 명제는 (∃x)(x = sss · · · sss0)이 되고(s는 k+ 1번 연속됨) s의 괴델수가 7임을 고려하면

k를 대입한 명제의 괴델수는 y부분에 해당되는 2317부터 s로 바뀌어 식 (6)와 같이 된다.

28 × 34 × 513 × 79 × 118 × 1313 × 175 × 197 × 237 × 297 × 317 × 377 × · · · (Pk+10)9 (6)

(Pk+10: k + 10번 째 소수)

얼핏 보기에 명제의 괴델수를 명제 그 자체에 대입한다는 것이 순환논리같은 느낌을 주는데 이것이 바로

괴델의 핵심적인 아이디어 중 하나이다. 이제부터 본격적인 증명의 내용으로 들어가기로 하자.

5.3 불완전성 정리

불완전성 정리의 증명은 “괴델수 z를 가진 명제는 증명불가능하다”라는 메타수학의 명제를 수학의 명제로

바꾼 후, 이 명제의 특별한 경우가 증명될 수 없다는 것을 보이는것으로 이루어진다. 이제 식 (7)의 명제를

살펴보자.

4

∼ (∃x)Dem(x, Sub(y, 17, y)) (7)

위 명제는 “Sub(y ,17, y)” 의 증명은 존재하지 않는다, 즉 증명불가능하다는 의미를 가지는 메타수학

의 명제이며 앞서 설명했듯이 괴델수를 이용하면 수학의 명제로 바꿀 수 있으며 수학 명제는 괴델수를 갖게

된다. 해당되는 괴델수를 n이라 한 다음 이 명제의 y를 n으로 바꾼 명제 G를 살펴보자(식 8)

G :∼ (∃x)Dem(x,Sub(n, 17, n)) (8)

명제 G가 바로 우리가 찾는 명제인데 이것의 메타수학적 의미를 살펴보면 “괴델수 sub(n, 17, n)을 가진

명제는 증명할 수 없다”이다. 이 메타수학 명제와 대응되는 수학명제의 괴델수를 g라고 하고 g는 어떤 숫자

일지 생각해보자. 놀랍게도 g = sub(n, 17,n)임을 알 수 있다. G는 괴델수 n을 가진 명제에서 y에 숫자 n

을 대입하여 만든 명제이므로, 이것의 괴델수 g는 정확히 sub(n, 17, n)의 정의와 일치하게 된다. 이제 G

의미를 다시 살펴보면 “괴델 수 g를 가진 명제는 증명불가능하다.”이고 즉, G는 증명불가능하다는 의미가

된다. 이제 맨 처음의 식 (1)으로 돌아가면 G에 대응되는 수학명제는 참이지만 증명불가능한 명제가 되어

불완전성의 정리가 증명된다.

제 6 절 마치며

필자는 고등학생때부터 괴델의 불완전성정리를 이해해보려고 괴델의 논문원본도 찾아보고 여러 교양서적을

많이 읽어보았었다. 그러나 논문을 다 보는것은 이해하기가 어렵고 교양서적은 겉핥기식으로만 나와있어서

최근까지도 증명의 핵심을 이해하지 못했었는데 출판사 승산에서 나온 “괴델의 증명”을 읽으면서 한층 이

해수준을 올릴 수 있었다. 이 책은 외국서적을 번역한 것으로 번역하면서 생소한 단어와 표현들이 많이나와

읽기가 어려운 부분이 있어 이번기회에 잘 풀어서 설명해볼 목적으로 글을 쓰게 되었다. 본 글이 논문과

교양서적 사이에서 가교 역할을 하여 불완전성 정리를 이해하는데 도움이 되길 기대한다.

5