2 / 11

프롤로그 — 한 블로거의 세계관: "대칭이 랜덤한 무한을 압축한다"

이 장에서 배우는 것 — 이 책이 다루는 블로그 "정보수학"이 어떤 기록인지, 그 26편을 관통하는 한 문장의 세계관과 네 개의 기둥이 무엇인지를 본다. 이 책 전체의 기본 언어인 상태(state)와 전이(transition)를 여기서 정식으로 정의하고, 본문 내내 쓰일 정리/추측/유추/[휴리스틱] 배지와 다섯 종류의 박스를 읽는 법을 계약한다. 프롤로그를 마치면 1~8장이 각각 무엇을 맡는지의 지도가 손에 들어온다.

들어가며 — 디버거 앞에서 수학을 읽는 사람

장면 하나로 시작하자. 한 소프트웨어 엔지니어가 디버거를 열어 놓고 코드를 한 줄씩 실행하고 있다. 브레이크포인트에 걸릴 때마다 변수들의 값이 갱신되고, 한 스텝을 밟을 때마다 프로그램은 하나의 "지금"에서 다음 "지금"으로 넘어간다. 어느 날 그는 이상한 생각에 사로잡힌다 — 혹시 수학도 이렇게 생긴 것 아닐까? $7$이라는 수는 어떤 고정된 사물이 아니라, 어떤 과정이 밟아 온 걸음들의 종착지에 붙인 이름표 아닐까? 무한이란 완성된 거대한 집합이 아니라, 그저 끝나지 않는 실행 아닐까?

이 책은 그 생각을 끝까지 밀고 나간 블로그, "정보수학"(infomath.tistory.com)의 기록을 다룬다. 저자는 수학자가 아니라 소프트웨어 엔지니어이고, 수학과 소프트웨어 개발이 "정보에 대한 기계적인 처리"라는 동일한 본질을 공유한다고 본다(글 2, 10). 블로그 26편(글 1~10, 17~25, 27~29, 31~33, 35)은 이 관점 하나로 대칭, 소수, 콜라츠 추측, 무한, 랜덤, 그리고 우주까지를 다시 읽어 나간 시도다.

이 책이 하려는 일은 두 가지다. 첫째, 그 시도를 표준 수학의 지도 위에 올려놓는다 — 저자가 맨손으로 세운 개념들이 표준 수학의 어느 좌표에 대응하는지, 어느 직관이 이미 증명된 정리이고 어느 직관이 아직 열린 추측인지를 하나씩 확인한다. 둘째, 그 확인 과정을 미적분학 I을 마친 공대 1학년이 따라올 수 있는 눈높이로 다시 쓴다. 원재료는 블로그 전체를 정독하고 표준 문헌으로 확장·검증한 보강 리포트이며, 이 책은 그 리포트의 해설판이다.

이 책의 기본 언어 — 상태와 전이

본격적으로 시작하기 전에, 이 책 전체에서 쓰일 단 하나의 기본 언어를 먼저 장만하자. 블로그의 모든 글이, 그리고 이 책의 모든 장이 이 언어로 말한다.

개념

상태-전이계(state-transition system) — 가능한 상태들의 집합 $S$와, 각 상태에서 다음 상태를 지정하는 전이 규칙 $t: S \to S$의 짝. 여기서 $t: S \to S$는 "$t$가 $S$의 원소를 받아 $S$의 원소를 돌려주는 함수"라는 뜻이다. 상태는 "지금 이 순간의 스냅숏"이고, 전이는 "다음 스냅숏으로 넘어가는 한 걸음"이다. 시작 상태를 하나 고르고 전이를 반복 적용하면 상태들의 열, 즉 궤적이 생긴다: $s,\ t(s),\ t(t(s)),\ \dots$

이 정의가 낯설게 느껴지지 않는 이유는, 독자가 이미 이것을 매일 다루고 있기 때문이다.

비유

디버거의 스텝 실행 — 디버거로 프로그램을 한 줄씩 실행할 때, 화면에 보이는 것(모든 변수의 현재 값 + 다음에 실행할 행 번호)이 상태이고, "스텝 오버" 버튼 한 번이 전이다. 프로그램 실행이란 상태-전이계의 궤적을 눈으로 따라가는 일이다. 경계: 이 비유는 전이가 한 걸음씩 결정적으로(다음 상태가 유일하게) 일어나는 계까지만 정확하다. 수학의 상태 공간은 디버거의 메모리와 달리 무한할 수 있고, 뒤에서 만날 랜덤 전환(7장)이나 양자적 전이(8장)에서는 다음 걸음이 하나로 정해지지 않는다.

예제

세 줄짜리 프로그램의 궤적 — 다음 프로그램을 디버거로 실행한다고 하자.

1행: x ← 2
2행: x ← x × x
3행: x ← x + 1

상태를 (다음 실행할 행, $x$의 값)의 짝으로 잡으면 궤적은 표 하나로 끝난다.

시점다음 실행할 행$x$
시작1행미정
1스텝 후2행2
2스텝 후3행4
3스텝 후종료5

상태 스냅숏 4개, 전이 3번. 이것이 상태-전이계의 전부다 — 거창한 정의가 아니라 트레이스 표 하나다.

이제 이 언어를 수학 쪽으로 딱 한 걸음 옮겨 보자. 수직선 위에서 "$+1$을 적용한다"를 전이로 삼으면, $7$이라는 수는 $0$에서 출발해 그 전이를 일곱 번 밟은 종착지에 붙인 이름이 된다. 수를 이렇게 읽는 것 — 완성된 사물이 아니라 전이 이력의 약칭으로 읽는 것 — 이 블로그의 출발점이자, 잠시 뒤 만날 네 기둥 중 첫 번째다.

이 책에서 등장할 주인공들은 사실 전부 상태-전이계다. 시계 산술(1장), 콜라츠 궤도(4장), 연분수 전개(5장), 튜링 기계(6장), 셀룰러 오토마타(8장) — 겉모습은 제각각이지만 모두 "상태들 + 한 걸음 규칙"이라는 같은 뼈대 위에 서 있다. 기본 언어 하나를 여기서 확실히 장만해 두는 이유다.

한 문장의 세계관과 네 개의 기둥

블로그 26편을 한 문장으로 압축하면 이렇다.

"대칭이 랜덤한 무한을 압축해 계산 가능하게 만든다"(글 19)

여기서 잠깐 — 왜 이 문장이 대담한지 뜯어보자. 이 문장에는 수학에서 가장 무거운 단어 셋(대칭, 랜덤, 무한)이 모두 들어 있고, 그 셋을 "압축"이라는 동사 하나가 꿰고 있다. 무한히 많고 무작위로 보이는 것들도, 대칭이라는 구조를 찾아내는 순간 유한한 규칙으로 줄여 쓸 수 있게 되고, 그래서 비로소 계산할 수 있게 된다는 주장이다. 이 책의 1~8장은 사실상 이 한 문장을 단어별로 해부하는 작업이다. 이 문장은 네 개의 기둥 위에 서 있다.

기둥 1 — 상태-전이 존재론(글 2, 8, 10, 18, 19, 23, 29). 수학과 소프트웨어의 공통 구조는 상태와 전이라는 두 속성이다. 상태란 "과거의 전환의 sequence를 단순화하여 나타내는 기법"이고, 수는 "그 흐름의 특정한 종착지를 나타내는 약식 표기"일 뿐이며, 본질은 고유한 값의 표기가 아니라 "대칭상에서의 상대적인 일관된 위치"다. 방금 위에서 $7$을 "$+1$ 걸음 일곱 번의 종착지"로 읽은 것이 정확히 이 기둥의 어법이다.

기둥 2 — 대칭에서 출발하는 수 체계(글 1, 5, 21, 29). 저자는 음($-1$)·무($0$)·양($+1$)의 3상태와 대칭의 최소 정의 — "$f(A)=B$이고 $f(B)=A$인 변환 $f$의 존재", 즉 $A$를 $B$로 보내고 $B$를 다시 $A$로 되돌리는 변환이 있다는 것 — 에서 출발해 덧셈·뺄셈을 상태 전이로 재구성한다($-1+1=0$의 유도 과정은 1장에서 원문 그대로 만난다). 그리고 연산의 반복과 그 역연산이 유리수·무리수·허수를 강제로 탄생시키는데, "새로운 수의 상태가 창조되기 위해서는 늘 무한의 계산이 결합되어야" 한다고 관찰한다.

기둥 3 — 계산으로서의 무한(글 7, 22, 24, 25). 무한은 완성된 집합이 아니라 "유한한 시간에 끝나지 않는 변화의 반복과정", 즉 종료하지 않는 계산이다. 칸토어는 상태의 무한을, 튜링은 과정의 무한을 다뤘다고 저자는 대비한다. 콜라츠·골드바흐(4 이상의 모든 짝수는 두 소수의 합이라는 추측 — 6장) 같은 난제는 반례를 찾는 프로그램이 멈추느냐의 문제로 환원되고, 칸토어가 무한의 크기를 등급화했듯 "거듭되는 변환(프로그램)에 대한 체계화된 메타 학문"이 필요하다는 것이 저자의 프로그램적 제안이다.

기둥 4 — 랜덤에서 질서로, 그리고 계산하는 우주(글 6, 8, 17, 18, 20, 27~33, 35). 가장 무질서한 상태(무한히 많은 상태 + 랜덤 전환 + 무기억)에 기억이 부여되면 시간이, 규칙이 부여되면 역변환이, 대칭이 부여되면 수 체계가 창발한다. 그리고 우주 자체가 "프레임과 프레임 사이의 전환 규칙"으로 작동하는 계산이며, "자연은 무리수를 끝까지 구하는 것 같지 않다"는 관찰로 수학의 연속·무한과 자연의 이산성 사이의 긴장을 짚는다.

네 기둥이 한 문장과 어떻게 맞물리는지 보자. 기둥 1이 문법(모든 것은 상태-전이다)을 주고, 기둥 2가 주어(대칭)를, 기둥 3이 목적어(무한 = 끝나지 않는 계산)를, 기둥 4가 서사(랜덤에서 질서로, 그리고 그 무대인 우주)를 준다. 블로그의 테마를 글 번호와 함께 정리하면 다음과 같다.

테마관련 글
대칭에서 연산 체계 구성하기1, 5, 8, 18, 29
상태와 전이의 통합 존재론8, 10, 18, 19, 23, 29
수학 = 소프트웨어(튜링머신)2, 4, 19, 25
계산으로서의 무한7, 22, 24, 25
역연산이 낳는 수 체계의 확장1, 21, 23, 29, 35
소수 — 압축의 최전선3, 21, 25, 35
난제 = 정지 문제, 프로그램의 분류학7, 9, 25
랜덤·무질서에서 질서로6, 8, 18, 28, 29
반복이 만드는 구조 — 프랙탈과 창발17, 20
우주는 계산이다 — 시뮬레이션과 이산성2, 10, 27, 28, 29, 31, 32, 33, 35

그래서, 이 세계관은 어디까지 맞는가 — 총괄 판정

한 번 멈추고 생각해 보자. 수학자가 아닌 사람이 증명 없이 세운 세계관이라면, 가능한 운명은 셋이다 — 이미 있는 수학의 재발견이거나, 틀렸거나, 아직 아무도 모르는 열린 문제에 닿아 있거나. 이 블로그의 놀라운 점은 네 기둥이 이 세 운명에 골고루, 그리고 정확하게 걸쳐 있다는 사실이다. 조사 전체의 총괄 판정은 이렇다.

기둥 1·2는 독자적 재발견이다. 저자가 맨손으로 세운 개념들은 표준 수학이 이미 정식화해 둔 개념들 — 대합(1장), 토서(1장), 콕세터 군(1장), 보편 구성(2장), 에를랑겐 프로그램(2장) — 에 하나씩 대응한다. 미리 말해 두자면 "재발견"은 깎아내리는 말이 아니다. 표준 이론과의 대조는 저자의 선택들이 임의가 아니라 사실상 유일했음을 사후적으로 정당화해 주는데, 그 확인 작업이 1장과 2장의 내용이다.

기둥 3은 90년 된 학문에 정확히 접속한다. 저자가 "아직 없다"고 보고 만들자고 제안한 메타 학문은, 계산가능성 이론이라는 이름으로 1936년부터 존재한다(6장). 판정의 묘미는 그다음이다 — 그 학문의 최전선, 즉 추측 마틴 추측과 Busy Beaver의 스텝형 $S(6)$의 콜라츠형 병목(6장)은 저자의 직관이 향한 바로 그 지점에서 실제로 열려 있다. "아직 없다"는 진단은 절반만 수정하면 되는 셈이다.

기둥 4는 세 갈래로 갈린다. 정리로 구제되는 부분이 있고(보렐의 정리 — 7장, 라도 그래프 — 5장, 카오스 게임 — 7장), 교정이 필요한 부분이 있으며($\pi$의 정규성은 증명된 것이 아니라 미해결이다 — 7장; 우주의 정보량은 부피가 아니라 표면적 기준으로 세어야 한다 — 8장), 물리학의 살아 있는 논쟁에 걸쳐 있는 부분이 있다(지생의 유한 정보 테제 — 8장).

여기서 눈여겨볼 것은 판정이 세 갈래로 갈린다는 사실 그 자체다. "전부 맞다"도 "전부 틀렸다"도 아닌, 정리·추측·교정이 뒤섞인 이 경계선을 흐리지 않고 정확히 긋는 것 — 그것이 이 책이 프롤로그부터 8장까지 한 번도 놓지 않을 원칙이다. 그리고 그 원칙을 지키기 위한 도구가 바로 다음 절의 배지다.

이 책의 약속 — 배지 읽는 법

쉽게 쓴다는 것이 확실한 척한다는 뜻이 아니다. 오히려 반대다 — 어려운 책은 독자가 못 알아들어서 안전하지만, 쉬운 책은 독자가 정말로 알아듣기 때문에, 증명된 것과 추측인 것을 뭉뚱그리는 순간 오개념이 그대로 이식된다. 그래서 이 책은 모든 수학적 주장에 신뢰 등급을 표시하는 배지를 붙인다.

비유

지도의 범례 — 좋은 지도는 이미 깔린 도로를 실선으로, 계획만 잡힌 노선을 점선으로 구분해 그린다. 실선만 믿고 달려야 목적지에 도착하듯, 이 책에서도 정리 위에는 안심하고 논리를 쌓아도 되지만 추측 위에 쌓은 것은 언제든 통째로 무너질 수 있는 구조물이다. 경계: 이 비유는 "표시 규약"이라는 점까지만 정확하다. 실제 도로는 공사 진척률이라도 알 수 있지만, 추측은 언제 증명될지, 애초에 증명될 수 있는지조차 아무도 모른다.

경계

이 책의 배지 계약 — 본문의 모든 핵심 주장에는 다음 배지가 붙는다.

  • 정리 — 증명된 수학적 사실. 이 책에서 유일하게 "확실하다"고 말해도 되는 등급.
  • 추측 — 수학적으로 정확히 정식화되었으나 아직 증명도 반증도 없는 명제. 리만 가설, 콜라츠 추측이 여기 산다.
  • 유추 — 논리적 함의가 증명되지 않은 철학적·휴리스틱 연결. "구조가 닮았다"는 관찰이지 "하나가 다른 하나를 함의한다"가 아니다.
  • [휴리스틱] — 확률 모형 같은 어림 논증. 모형 안에서는 계산이 성립하지만, 실제 대상에 대한 증명은 아닌 것.
  • 물리학을 다루는 8장에서는 등급 체계가 하나 더 얹힌다: [관측](실험으로 확인), [표준 견해](학계의 지배적 합의이나 엄밀 증명은 아님), [가설/해석](사변적 제안 또는 논쟁 중), [어림](자릿수 수준의 추정), 그리고 필요한 곳에서 [예측](이론이 예측하나 실험 미확인). 수학의 정리와 물리학의 [표준 견해]는 확실성의 종류가 다르다 — 8장 서두에서 다시 계약한다.

약속은 배지에서 끝나지 않는다. "거의 모든", "로그 밀도로", "함수체에서만", "RH를 가정하면" 같은 한정어들도 원문 리포트의 판정 그대로 유지한다. 이런 수식어는 장식이 아니라 주장의 일부여서, 하나만 떨어져 나가도 전혀 다른(대개 더 강하고 틀린) 주장이 되기 때문이다. 쉽게 풀어 쓰는 과정에서 어떤 주장도 승격시키거나 강등시키지 않았다 — 이것이 이 책이 독자와 맺는 계약이다.

보통의 장이라면 끝머리에 "무엇이 증명되었고, 무엇이 열려 있는가"라는 결산 절이 온다(1장부터 확인하게 될 것이다). 프롤로그에서는 방금 맺은 이 배지 계약이 그 역할을 대신한다 — 이 책 전체가 그 결산을 수행하는 장치이기 때문이다.

책의 지도 — 여덟 개의 장이 네 기둥을 나눠 맡는 법

이제 여행 일정표를 펴자. 여덟 개의 장은 네 기둥을 다음과 같이 나눠 맡는다.

제목맡은 기둥
1장대칭의 언어: 군이라는 도구상자기둥 1·2 — 도구 장만
2장대칭으로 수학을 다시 쓰다: 에를랑겐에서 랭글랜즈까지기둥 2 — 프레임
3장소수: 패턴은 대상이 아니라 좌표계에 산다기둥 2와 4의 교차점
4장콜라츠: 요동은 어디서 오는가기둥 3과 4의 교차점
5장무한: 크기, 구조, 과정기둥 3
6장끝나지 않는 계산의 분류학기둥 3 — 메타 학문
7장랜덤에서 질서로기둥 4
8장자연은 무리수를 끝까지 구하지 않는다: 계산하는 우주기둥 4 — 물리학

순서에는 이유가 있다. 뒤 장은 앞 장에서 장만한 도구를 그대로 쓴다 — 특히 1장의 도구상자(·모듈러 산술·대합·자기동형)는 이후 모든 장의 전제이고, 5장의 대각선 논법은 6장의 정지 문제에서 재사용되며, 7장은 3·4·5·6장의 재료를 모두 소비하는 종합 장이다. 처음 읽을 때는 순서대로 읽기를 권한다. 기둥 1(상태-전이 존재론)에 전담 장이 없는 것은 누락이 아니다 — 이 기둥은 특정 장에 갇히는 대신 전 장에 스며들어, 1장의 토서, 4장의 패리티 벡터, 5장의 코시 열, 8장의 프레임 전환에서 각각 다른 옷을 입고 다시 나타난다.

본문에는 다섯 종류의 박스가, 그리고 이번 확장판부터는 각 장 맨 끝에 두 종류의 출구가 등장한다. 먼저 박스 5종을 읽는 법은 이렇다.

그리고 각 장의 맨 끝에는 인용 블록으로 표시된 출구 2종이 붙는다. "쉬운 출구 — 직관 카드"는 그 장의 알맹이 하나를 수식 없이 담은 내려가는 문이고, "깊은 출구 — 대학원으로 가는 길"은 읽기 사다리와 증명 스케치로 이어지는 올라가는 문이다. 두 출구는 본문 논증의 일부가 아니어서, 건너뛰어도 다음 장을 이해하는 데 지장이 없다.

준비는 끝났다. 이제 저자가 맨손으로 대칭을 정의하던 첫 장면으로 가자 — 그 맨손 정의가 표준 수학의 어떤 정확한 개념이었는지 확인하는 것이 1장이다.

프롤로그 요약

← 이전정보수학 쉽게읽기다음 →1장 — 대칭의 언어: 군이라는 도구상자