2장 — 대칭으로 수학을 다시 쓰다: 에를랑겐에서 랭글랜즈까지
이 장에서 배우는 것 — 1장에서 장만한 도구(군, 자기동형, 불변량)를 들고 수학의 큰 지도를 다시 그린다. "기하학이란 도대체 무엇인가"라는 19세기의 정체성 위기에 클라인이 내놓은 답(에를랑겐 프로그램), "5차 방정식에는 왜 근의 공식이 없는가"에 대한 갈루아의 답, "에너지는 왜 보존되는가"에 대한 뇌터의 답, 그리고 추상적인 군에게 행렬이라는 몸을 입히는 표현론까지. "수학은 대칭으로 기술된다"는 블로그의 프레임이 지난 150년의 표준 수학에서 어디까지 증명된 현실이고, 어디부터 미해결의 꿈(랭글랜즈 추측)인지 경계선을 긋는다. 마지막으로 "역연산이 새로운 수를 창조한다"는 블로그의 서사가 보편 구성의 사다리라는 표준 공정으로 번역되는 것을 본다.
들어가며 — 두 개의 위기, 하나의 답
19세기 수학은 두 개의 정체성 위기를 겪었다.
첫째는 기하학의 위기다. 2천 년 동안 기하학은 유클리드의 기하학, 단 하나였다. 그런데 19세기에 평행선 공준을 부정해도 멀쩡히 돌아가는 기하학(비유클리드 기하), 길이를 재지 않는 기하학(사영 기하) 같은 낯선 기하학들이 연달아 발견되었다. 전부 "기하학"이라 불리는데 서로 다른 것을 연구한다면, 도대체 기하학이란 무엇인가?
둘째는 방정식의 위기다. 2차 방정식의 근의 공식은 고등학교에서 배운다. 3차·4차 방정식의 근의 공식도 16세기에 발견되었다. 그렇다면 5차는? 300년 가까이 수많은 수학자가 공식을 찾아 헤맸지만 실패했다. 그리고 19세기 초, 충격적인 답이 나왔다. 공식은 없으며, 없다는 것이 증명된다는 것이다. 도대체 무엇이 4차와 5차 사이의 벽을 만드는가?
놀랍게도 두 위기의 답이 같았다. 군이다. 기하학의 정체는 "어떤 변환군을 허용하느냐"가 결정하고(클라인), 방정식의 운명은 근들의 대칭군이 결정한다(갈루아). 이후 물리학의 보존 법칙(뇌터)과 신호의 주파수 분해(푸리에·표현론)까지 같은 언어로 흡수되면서, "수학은 대칭으로 기술된다"는 하나의 프로그램이 실제로 가동되기 시작했다.
1장에서 우리는 블로그가 맨손으로 세운 대칭의 최소 정의가 대합·자기동형·토서라는 표준 개념으로 하나씩 번역되는 것을 보았다. 이 장은 시야를 넓힌다. 블로그의 더 대담한 주장 — 수학 전체가 대칭의 언어로 기술된다는 프레임 — 은 사변이 아니라, 표준 수학이 150년간 실제로 수행해 온 프로그램이다. 다섯 개의 층(에를랑겐, 갈루아, 뇌터, 표현론, 그리고 군 너머의 확장)이 서로 맞물려 있고, 우리는 그 층을 하나씩 오른다. 다만 미리 말해 두자: 산술 랭글랜즈 일반형은 아직 추측이고, 특성 0의 특정 기하학적 정식화에는 증명을 제시한 연작이 있으며, 대칭이 수학의 유일한 문법인 것도 아니다. 그 경계선까지가 이 장의 내용이다.
연구 계보 | 질문이 어떻게 자랐는가
이 표는 영웅 목록이 아니다. 앞선 장애물이 질문을 어떻게 바꾸었고, 새 도구가 어디까지 답했는지를 왼쪽에서 오른쪽으로 읽자.
| 이어받은 질문 | 인물·시기 | 새 도구 | 정립된 결과와 현재 지위 | 다음 질문 |
|---|---|---|---|---|
| 방정식의 근 공식은 언제 존재하는가? | 라그랑주 → 갈루아 | 근의 치환과 군 | 정리 가해군과 근호 가해성이 대응한다. 정리 일반 5차에는 일반 근호 공식이 없다. | 방정식 밖에서도 변환군이 대상을 분류하는가? |
| 여러 기하를 한 언어로 묶을 수 있는가? | 리만 → 클라인·소푸스 리 | 곡률, 변환군, 연속군 | 정리 에를랑겐 프로그램과 리 군 이론이 기하를 변환과 불변량의 언어로 조직한다. | 전역 대칭이 적은 공간은 어떻게 다루나? |
| 전역 대칭이 거의 없는 공간도 대칭 언어로 볼 수 있는가? | 카르탕 | 국소 모델과 접속 | 정리 카르탕 기하는 클라인의 전역 모형을 국소 기하로 확장한다. | 국소·부분 대칭을 더 넓게 묶는 언어는? |
| 자연법칙의 대칭은 무엇을 보존하는가? | 뇌터 | 변분법과 리 군 | 정리 변분 구조를 가진 계에서: 연속 대칭과 보존량이 대응한다. | 이산·비가역 계의 불변량은 무엇인가? |
| 추상 대칭을 계산 가능한 성분으로 나눌 수 있는가? | 마슈케·프로베니우스·슈어·바일 | 표현과 지표 | 정리 유한군의 복소 표현은 기약 성분으로 분해된다. | 서로 다른 수학 세계의 표현을 번역할 수 있나? |
| 갈루아 대칭과 보형 스펙트럼은 하나의 사전인가? | 랭글랜즈 → Gaitsgory·Raskin 연구진 | L-함수, 표현, 범주·층 | 정리 범위: 특성 0의 특정 de Rham·Betti 기하학적 정식화: 2024년에 시작한 다섯 편의 연작이 증명을 제시한다. 추측 수체 위 산술적 일반형: 미해결이다. | 어느 체·군·국소 조건에서 대응이 성립하나? |
앞으로 “대칭을 본다”는 말은 세 질문을 묶어 뜻한다. (1) 어떤 변환들을 허용하는가, (2) 그 변환들이 무엇을 움직이는가, (3) 움직여도 무엇이 남는가. 이것이 각각 군 → 군 작용 → 불변량이다.
| 무대 | 변환의 군 | 무엇에 작용하나 | 남는 것·읽는 것 |
|---|---|---|---|
| 정삼각형 | $D_3$ | 꼭짓점·변 | 길이, 인접 관계 |
| 정수선 | $D_\infty$ | 정수점 | 거리, 평행이동 구조 |
| 방정식 | 갈루아 군 | 근들 | 중간체, 가해성 |
| 함수 | $U(1)$ 등 | 함수 공간 | 푸리에 성분 |
| 역학계 | 리 군 | 경로·장 | 작용, 보존량 |
에를랑겐 프로그램 — 기하학은 "안경 고르기"다
1872년, 23세의 펠릭스 클라인(Felix Klein)은 에를랑겐 대학 교수로 부임하며 발표한 문서(강령)에서 기하학의 정체성 위기에 대한 답을 내놓았다. 후대에 에를랑겐 프로그램(Erlangen program)이라 불리는 선언이다.
정리 에를랑겐 프로그램(클라인, 1872). 기하학이란 "다양체와 그 위에 작용하는 변환군이 주어졌을 때, 그 군의 모든 변환 아래 불변인 성질들을 연구하는 것"이다. (여기서 다양체(manifold)란 곡면처럼 매끄럽게 이어진 공간을 일반화한 개념인데, 정확한 정의는 이 책의 범위 밖이다 — "변환들이 작용하는 무대"라고만 읽어도 이 장에는 지장이 없다.)
말이 어렵게 들리면 이렇게 읽자. 기하학을 하나 정한다는 것은 공간을 정하는 일이 아니라, 어떤 변형까지를 "같다"고 봐줄 것인지를 정하는 일이다. 그 "봐주는 변형들의 모음"이 바로 1장에서 배운 군이고, 그 군의 모든 변환을 견뎌내는 성질 — 1장의 언어로 불변량 — 이 그 기하학의 연구 대상이 된다.
안경 고르기 — 도수가 다른 안경 세 개가 있다고 하자. 첫째 안경(유클리드 안경)을 쓰면 도형을 옮기고 돌려도 같은 도형으로 보이지만, 늘리거나 찌그러뜨리면 다른 도형으로 보인다. 둘째 안경(아핀 안경)은 더 흐릿해서, 균일하게 늘이는 것까지 같은 도형으로 보인다 — 이 안경에는 모든 삼각형이 하나로 보인다. 셋째 안경(사영 안경)은 원근법 왜곡까지 무시한다. 어떤 안경을 쓰느냐가 곧 어떤 기하학을 하느냐다. 경계: 이 비유는 "허용하는 변환의 선택이 기하학을 결정한다"는 데까지만 정확하다. 모든 기하학이 이렇게 군 하나로 주어지는 것은 아니다 — 전역 대칭군이 없는 일반적인 굽은 공간(리만 기하)은 이 틀을 벗어나며, 그것을 다시 흡수하려는 확장(카르탕 접속)은 이 장 뒷부분에서 이름만 만난다.
세 안경을 표준 용어로 옮기면 이렇다. 유클리드 기하는 등거리변환군(거리를 보존하는 변환들 — 1장에서 정수 격자 위의 것을 보았다)의 불변량을 연구한다: 길이, 각. 아핀 기하는 아핀군(평행성을 보존하는 선형 변형까지 허용)의 불변량을 연구한다: 평행성, 길이의 비. 사영 기하는 사영군(원근 투영까지 허용)의 불변량을 연구한다: 교차비(네 점이 이루는 특정 비율값 — 이름만 알아두면 된다).
여기서 잠깐 멈추고, 이 목록에 숨은 규칙성을 보자. 안경이 흐릿해질수록 — 즉 군이 커질수록 — 살아남는 성질은 줄어든다. 유클리드 안경으로는 길이도 각도 보이지만, 사영 안경으로는 교차비 하나만 남는다. 정리 군이 커질수록 불변량은 줄어든다. 허용하는 대칭과 관찰 가능한 성질이 정확히 반비례하는 이 저울이, 앞으로 이 책 곳곳에서 반복해 나타난다.
에를랑겐의 현대적 정식화는 한 걸음 더 나간다. 클라인 기하란 등질공간이라는 대상인데, 핵심만 말하면 이렇다: 공간의 점들이 먼저 있고 대칭이 나중에 오는 것이 아니라, 군이 일차적 데이터이고 점들은 대칭군으로부터 재구성되는 파생물이다.
등질공간 $G/H$ — 현대적 정식화에서 클라인 기하란 등질공간 $G/H$, 즉 리 군 $G$(회전각처럼 연속 다이얼로 매개되는 대칭들의 군 — 이름만 알아두자)와 그 닫힌 부분군 $H$의 몫이다. "공간의 점"은 군 $G$ 안에서 $H$의 복사본 하나가 차지하는 자리로 재구성된다. 기호와 구성은 이 책 수준을 넘으므로 방향만: 점보다 군이 먼저라는 선언의 정확한 판본이 여기 있다. 이 박스는 건너뛰어도 본문 이해에 지장 없다.
이 대목에서 블로그와의 접속이 정확해진다. 블로그는 "수의 본질은 고유한 값의 표기가 아니라 대칭상의 상대적 위치"라는 구조주의적 존재론을 편다(글 10, 23). 점(값)이 아니라 대칭(군)이 일차적이라는 에를랑겐의 관점은, 저자의 이 직관이 표준 수학에서 이미 채택된 관점의 정확한 재발견임을 보여준다.
갈루아 이론 — 방정식의 운명은 근의 대칭이 결정한다
이제 둘째 위기, 5차 방정식으로 가자. 다만 갈루아의 답을 읽으려면 무대가 되는 개념 하나가 먼저 필요하다. 체다.
체(field) — 덧셈·뺄셈·곱셈·나눗셈(0으로 나누기만 제외)이 자유롭게 되고 그 결과가 다시 안에 머무는 수 체계. 유리수 $\mathbb{Q}$, 실수 $\mathbb{R}$, 복소수 $\mathbb{C}$가 대표적인 예다. 정수 $\mathbb{Z}$는 체가 아니다 — $1 \div 2$가 정수 밖으로 나가기 때문이다. 놀랍게도 원소가 유한 개뿐인 체(유한체)도 있는데, 바로 아래 예제에서 손으로 확인한다.
$\mathbb{Z}/5\mathbb{Z}$는 체다 — 1장의 시계 산술에서 시간이 5개뿐인 시계 $\mathbb{Z}/5\mathbb{Z} = \{0,1,2,3,4\}$를 가져오자. 덧셈·뺄셈·곱셈이 되는 것은 1장에서 보았으니, 문제는 나눗셈이다. 나눗셈이 된다는 것은 0이 아닌 각 원소에 "곱해서 1이 되는 짝"(곱셈 역원)이 있다는 뜻이다. 전부 찾아보자: $1 \times 1 = 1$, $2 \times 3 = 6 \equiv 1$, $4 \times 4 = 16 \equiv 1 \pmod 5$. 즉 $1$의 짝은 $1$, $2$와 $3$은 서로 짝, $4$의 짝은 $4$ — 전원이 짝을 가지므로 나눗셈이 항상 된다. 반면 $\mathbb{Z}/6\mathbb{Z}$에서 $2$의 짝을 찾아보면 $2\times1=2$, $2\times2=4$, $2\times3\equiv0$, $2\times4\equiv2$, $2\times5\equiv4$ — 아무리 곱해도 1이 나오지 않는다. $6 = 2 \times 3$처럼 합성수 시계에서는 나눗셈이 깨진다. 일반적으로 $\mathbb{Z}/n\mathbb{Z}$가 체인 것은 $n$이 소수일 때뿐이며, 이때 이 유한체를 $\mathbb{F}_p$라고도 쓴다.
체가 준비되었으니 갈루아의 핵심 아이디어를 말할 수 있다. 방정식을 볼 때 근의 값을 보지 말고, 근들을 서로 바꿔치기해도 대수 관계가 깨지지 않는 "합법적인 섞기"들의 모음을 보라. 그 섞기들의 모음이 군을 이루는데, 이것이 그 방정식(정확히는 그 체 확장)의 갈루아 군(Galois group)이다. 말로만 들으면 추상적이니, 가장 작은 예제를 손으로 만져 보자.
$x^2 - 2$의 근 맞바꾸기 — 방정식 $x^2 - 2 = 0$의 근은 $\sqrt2$와 $-\sqrt2$다. 유리수 $\mathbb{Q}$에 $\sqrt2$를 새로 집어넣어 키운 체를 $\mathbb{Q}(\sqrt2)$라 쓰자(원소는 $a + b\sqrt2$ 꼴, $a,b$는 유리수). 이제 두 근을 맞바꾸는 변환 $f(\sqrt2) = -\sqrt2$를 생각하자(유리수는 전부 제자리에 고정). 이 맞바꾸기가 대수 관계를 깨는지 검사해 보자. $(\sqrt2)^2 = 2$라는 관계는? 맞바꾼 뒤에도 $(-\sqrt2)^2 = 2$로 성립한다. $\sqrt2 + (-\sqrt2) = 0$은? 두 근이 서로 자리를 바꿀 뿐 관계 자체는 그대로다. 유리수 계수로 쓸 수 있는 어떤 방정식도 $\sqrt2$와 $-\sqrt2$를 구별하지 못한다 — 둘 다 "제곱하면 2가 되는 수"라는 것이 유리수의 눈으로 알 수 있는 전부이기 때문이다. ($\sqrt2 > 0$이라는 구별은 크기 비교이지 사칙연산의 관계가 아니라서 이 검사에 걸리지 않는다.) 따라서 이 맞바꾸기는 합법이고, 갈루아 군은 {항등, 맞바꾸기} 두 원소, 즉 $\mathrm{Gal}(\mathbb{Q}(\sqrt2)/\mathbb{Q}) \cong \mathbb{Z}/2\mathbb{Z}$다(기호 $\cong$는 "이름표만 다를 뿐 같은 구조"라는 뜻으로, 1장에서 쓰던 그대로다). 1장에서 만난 가장 작은 비자명 군이 여기서 또 나왔다.
갈루아 이론의 본체는 이 아이디어를 정밀한 사전으로 승격시킨다. 정리 갈루아 이론. 유한 갈루아 확장 $L/K$(체 $K$를 체 $L$로 키운 것)에서, 중간체들($K$와 $L$ 사이에 끼어 있는 체들)과 갈루아 군 $\mathrm{Gal}(L/K)$의 부분군들(1장 번역 2에서 만난 부분군) 사이에 포함관계를 뒤집는 일대일 대응이 존재한다. 체 쪽에서 한 단계 키우면 군 쪽에서는 한 단계 줄어든다 — 에를랑겐에서 본 "군이 커질수록 불변량이 줄어든다"와 똑같은 반비례 저울이 여기서도 작동하는 것이다.
이 사전이 5차 방정식의 300년 미스터리를 푼다. "근의 공식이 있다"(근을 계수의 사칙연산과 거듭제곱근으로 쓸 수 있다)는 방정식 쪽의 성질이, 사전을 통해 갈루아 군 쪽의 어떤 성질(가해성)로 정확히 번역되는데, 일반 5차 방정식(계수를 특정 숫자가 아니라 문자로 둔 일반형)의 갈루아 군은 그 성질을 갖지 않는다. 오해를 하나 미리 막자면, $x^5 - 2 = 0$ 같은 특정한 5차 방정식은 거듭제곱근으로 풀릴 수 있다 — 없는 것은 모든 5차를 한 번에 처리하는 공식이다. 즉 공식이 없는 이유는 계산 기술의 부족이 아니라 대칭 구조의 완고함이다.
더 깊이 | 체 확장·가해군과 5차 방정식
정밀한 진술: 표수 0의 체 위에서(유리수·실수처럼 1을 아무리 더해도 0이 되지 않는 체 — 이름만 알아두자) 다항식이 거듭제곱근으로 풀린다는 것은 그 갈루아 군이 가해군(solvable group — 아벨 군 조각들로 층층이 분해되는 군)인 것과 동치다. 그런데 일반 5차 방정식의 군은 카드 5장의 섞기 전체인 $S_5$(→1장의 $S_n$)이고, 정리 $S_5$는 ($A_5$라는 부분군이 비가환 단순군 — 더 이상 쪼갤 수 없는 비아벨 군 — 이므로) 가해군이 아니다. 이것이 5차 방정식에 근의 공식이 없는 이유다. 체 확장·가해군의 정의와 증명은 이 책의 범위 밖이며, 이 박스는 건너뛰어도 본문 이해에 지장 없다.
방정식의 운명을 근의 값이 아니라 근들 사이의 대칭 구조가 결정한다는 것 — 이것이 블로그의 구조주의("값이 아니라 위치")가 수학사에서 처음 결정적 승리를 거둔 지점이다.
같은 패턴이 한 단계 위에서 — $\mathrm{Gal}(\mathbb{C}/\mathbb{R})$
잠깐, 여기서 1장의 결과 하나를 다시 불러오자. 1장에서 우리는 정수 덧셈 구조의 자기동형이 항등과 부정($x \mapsto -x$) 딱 둘뿐임을, 즉 $\mathrm{Aut}(\mathbb{Z},+) \cong \mathbb{Z}/2\mathbb{Z}$임을 손으로 증명했다 정리. 똑같은 패턴이 한 단계 위, 복소수에서 반복된다.
정리 $\mathbb{R}$을 점별로 고정하는 $\mathbb{C}$의 체 자기동형은 항등과 복소켤레($i \leftrightarrow -i$) 둘뿐이다. 기호로 $\mathrm{Gal}(\mathbb{C}/\mathbb{R}) \cong \mathbb{Z}/2\mathbb{Z}$ — 말로 읽으면, "실수를 건드리지 않으면서 복소수의 사칙연산 구조를 지키는 대칭은, 아무것도 안 하기와 $i$와 $-i$ 맞바꾸기, 정확히 두 개"라는 뜻이다. $x^2-2$에서 $\pm\sqrt2$가 유리수의 눈으로 구별 불가능했듯, $x^2+1$의 두 근 $\pm i$는 실수의 눈으로 구별 불가능하다.
블로그의 3-상태 대칭 형식 — 음($-1$)·양($+1$)과 고정점인 무($0$) — 이 $\{-1, 0, +1\}$에서도 $\{i,\ \mathbb{R},\ -i\}$에서도 같은 구조로 나타나는 것이다(글 21의 허수 직관에 대한 보강). 서로 맞바꿔지는 한 쌍과, 그 맞바꾸기에 흔들리지 않는 중심. 1장에서 본 대합의 궤도 구조가 수 체계의 층마다 다시 등장한다.
단, 한정어 하나를 절대 떨어뜨리면 안 된다. "$\mathbb{R}$을 고정하는"이라는 조건이 핵심이다 — 이 조건을 떼면 (선택공리 하에서 — 집합론의 표준 공리 중 하나로, 5장에서 ZFC를 다룰 때 다시 만난다) $\mathbb{C}$의 체 자기동형은 비가산적으로 많다(자연수로 번호를 매길 수 없을 만큼 많다는 뜻 — 이 구분도 5장에서 정식으로 배운다). "둘뿐"이라는 깔끔한 답은 공짜가 아니라, 무엇을 고정하느냐는 조건이 사 준 것이다.
뇌터 정리 — 대칭이 보존량을 낳는다
층을 하나 더 오르자. 이번에는 물리학이다. 에너지 보존 법칙은 왜 성립하는가? 공대생이라면 역학 수업에서 결과로 받아들였겠지만, "왜"에 대한 표준적인 답은 1918년 에미 뇌터(Emmy Noether)가 증명한 정리가 준다. 답은 — 또 대칭이다.
정리 뇌터 제1정리(1918). 라그랑지언(정확한 이름과 뜻은 바로 아래 "더 깊이" 박스에)으로 기술되는 계에서, 작용이 $m$-차원 리 군(회전각처럼 연속 다이얼로 매개되는 대칭들의 군 — 여기서는 "$m$개의 다이얼을 가진 연속 대칭"이라고 읽으면 충분하다)의 연속 변환 아래 불변이면 운동방정식의 해 위에서 $m$개의 보존량이 존재한다. 대응의 사전은 이렇다: 시간 평행이동 대칭(오늘 실험하든 내일 실험하든 법칙이 같다) ↔ 에너지 보존, 공간 평행이동 대칭(여기서 하든 저기서 하든 같다) ↔ 운동량 보존, 회전 대칭(어느 방향을 향하든 같다) ↔ 각운동량 보존. 연속 대칭 하나마다 보존량이 정확히 하나씩 — 대칭이 많을수록 그 계에서 "변하지 않는 것"의 목록이 길어진다.
라그랑지언과 작용 — "자연은 작용(action)이라는 양을 최소화하는 경로를 택한다"는 변분 원리의 언어다. 라그랑지언은 그 작용을 정의하는 함수이고(원문의 정식 용어로는 작용 범함수 — 함수를 입력으로 받아 수 하나를 내놓는 "함수의 함수"라는 뜻), 뇌터 정리는 이 변분 구조 위에서 증명된다. 구체적 정의와 유도는 이 책의 범위 밖이며, 이 박스는 건너뛰어도 본문 이해에 지장 없다.
여기서도 한정어가 정리의 절반이다. 이것은 변분 구조를 가진 계에 대한 정리이지 "모든 대칭은 보존량을 낳는다"는 만능 원리가 아니며, 이산 대칭(반사, 시간 역전)은 대상이 아니다. 연속 다이얼로 돌릴 수 있는 대칭(회전각처럼)에만 적용되고, 거울 반사처럼 딸깍 스위치인 대칭은 뇌터의 사전에 실려 있지 않다.
이 한정어는 블로그에도 직접 적용된다. 저자의 상태-전이 일반 체계에 뇌터 정리를 쓰려면 "전이 규칙에 변분 구조가 있을 때"라는 전제가 필요하다. 이산적인 상태-전이계의 보존량은 별도의 이론 — 마르코프 사슬(확률적 상태-전이계의 표준 모형으로, 7장에서 그 성질을 만난다)의 불변측도나 오토마타의 불변식 이론 — 이 맡는다. 이름만 기억해 두면 된다: 대칭→보존량의 다리는 존재하지만, 어느 다리를 건널 수 있는지는 계의 구조가 정한다.
표현론 — 추상 군에 행렬의 몸을 입히다
1장에서 정의한 군은 추상적이다. 원소가 무엇인지는 묻지 않고 합성 규칙만 본다. 추상성은 힘이지만, 계산하는 입장에서는 손에 잡히는 것이 필요하다. 공대생이 가장 잘 다루는 "손에 잡히는 변환"이 무엇인가 — 행렬이다. 표현론(representation theory)은 추상 군에게 행렬이라는 몸을 입히는 이론이다.
표현 $\rho: G \to GL(V)$ — 군 $G$의 각 원소 $g$에 가역 행렬 $\rho(g)$를 배정하되, 군의 합성이 행렬 곱셈과 맞아떨어지게 하는 것: $\rho(gh) = \rho(g)\,\rho(h)$. 말로 읽으면 "두 변환을 이어 한 결과의 행렬은, 각각의 행렬을 곱한 것과 같다". 여기서 $GL(V)$는 벡터 공간 $V$ 위의 가역 선형변환(가역 행렬) 전체가 이루는 군이고, 이런 구조 보존 함수를 준동형(homomorphism)이라 부른다. 즉 표현이란 군을 행렬로 실현하는 준동형이다.
4시간 시계에 몸 입히기 — 1장의 시계 산술 $\mathbb{Z}/4\mathbb{Z} = \{0,1,2,3\}$에 몸을 입혀 보자. "1시간 진행"에 평면의 90도 회전 행렬을 배정한다:
$$\rho(1) = R = \begin{pmatrix} 0 & -1 \\ 1 & 0 \end{pmatrix}$$
행렬 곱을 직접 해 보면 $R^2 = \begin{pmatrix} -1 & 0 \\ 0 & -1 \end{pmatrix}$(180도 회전), 그리고 $R^4 = I$(제자리)다. 시계에서 $1+1+1+1 \equiv 0$인 것과 행렬에서 $R \cdot R \cdot R \cdot R = I$인 것이 정확히 포개진다 — 시계의 덧셈이 행렬의 곱셈으로 번역된 것이다. 이제 "3시간 진행 후 2시간 진행 = 1시간 진행"($3+2\equiv1$) 같은 시계 계산을 전부 행렬 곱셈으로 대신할 수 있다.
몸을 입히면 무엇이 좋은가? 행렬에 대해 아는 모든 것(고유값, 대각화, 분해 — 일부는 3장에서 배운다)을 군에 동원할 수 있게 된다. 그리고 이 몸에는 놀라운 해부학이 있다. 정리 유한군의 복소 표현은 기약표현들 — 더 이상 잘게 쪼갤 수 없는 기본 표현들 — 의 직합(부품 표현들을 서로 겹치지 않게 나란히 이어 붙인 것)으로 완전 분해된다(마슈케 정리). 임의의 몸이 유한 종류의 "원자 부품"으로 남김없이 분해된다는 뜻이다. (덧붙여 기약표현의 개수는 켤레류 — 군 안에서 서로 닮은꼴로 취급되는 원소들의 묶음 — 의 개수와 정확히 같다. 켤레류는 이름만 알아두자; 3장의 프로베니우스에서 스쳐 지나간다.)
비유로 정리하면, 표현론은 "추상 군에게 행렬이라는 몸을 입히기"다. 경계: 몸은 한 벌이 아니다 — 같은 군에 서로 다른 표현이 여러 개 있고, 모든 원소에 단위행렬을 입히는 게으른 표현처럼 정보를 뭉개는 몸도 있다. 몸이 군의 전부를 보여준다는 보장은 없다.
그런데 애초에, 아무 군이나 이렇게 "무언가의 변환"으로 실현될 수 있다는 보장이 있는가? 있다. 정리 케일리 정리: 모든 군은 어떤 집합의 치환군(집합의 원소들을 섞는 변환들의 군 — 1장의 $S_n$이 원형이다)과 동형이다(→ 1장 1.9의 동형 — 자기동형에서 "자기"를 뗀 것). 말로 하면: 모든 추상 군은 실제로 무언가의 대칭이다. 대칭의 언어에 원리적 공백이 없다는 보증서인 셈이다.
푸리에 급수 — 표현론의 가장 익숙한 얼굴
표현론이 낯설게 느껴진다면, 사실 공대생은 이미 그 대표작을 알고 있다. 신호를 순수 진동들의 합으로 분해하는 푸리에 분석(Fourier analysis)이다. 주기 신호 $f(\theta)$를
$$f(\theta) = a_0 + (a_1\cos\theta + b_1\sin\theta) + (a_2\cos 2\theta + b_2\sin 2\theta) + \cdots$$
처럼 진동수 1, 2, 3, …의 순수 파동들로 쪼개는 것 — 이퀄라이저가 음악을 주파수 대역별로 갈라 보여주는 그 그림이다. (이 비유의 경계: 이퀄라이저 직관은 유한한 신호 처리까지이고, 아래 문장이 말하는 수학적 정체는 대칭의 표현 분해다.)
이것이 대칭과 무슨 상관인가? 원 위의 회전 전체가 이루는 군을 원군(circle group) $U(1)$이라 부르는데, 정리 푸리에 급수는 원군 $U(1)$의 표현론이다. 주기 신호란 원 위의 함수이고, 순수 진동(진동수 $n$의 파동)들은 정확히 회전 대칭이 허용하는 기약 부품들이다. 즉 푸리에 분해는 마슈케식 "기약 분해"의 원군 버전이다. 임의의 함수를 몇 안 되는 기본 대칭 성분(기약 부품)들로 분해한다는 점에서, 이 정리는 블로그의 "무한한 상태·전이의 압축" 서사와 정신을 공유한다. 그리고 예고 하나: 3장에서 소수를 셀 때, 이 "군 위의 주파수 분해"가 디리클레 지표라는 이름으로 재등장해 결정적 도구가 된다.
군 너머 — 세 개의 확장과 하나의 꿈
여기까지가 정립된 네 층이다. 그런데 정직하게 말하면, 군은 대칭 중에서도 전역적이고 가역적인 대칭만 포착한다. 공간 전체에 한꺼번에 작용하고(전역), 언제나 되돌릴 수 있는(가역) 변환. 그 틀에 안 잡히는 대칭 현상들을 위해 세 방향의 확장이 정립되어 있다 — 이름과 방향만 알아두자.
더 깊이 | 군 너머의 세 확장
(i) 카르탕 접속: 전역 대칭군이 없는 일반 리만 다양체(굽은 공간)를 "국소적으로는 클라인 기하 $G/H$를 모델로 삼는" 방식으로 에를랑겐 틀에 흡수한다(교과서 Sharpe의 부제가 바로 "클라인 에를랑겐 프로그램의 카르탕식 일반화"다). (ii) 그루포이드: 공간 일부에만 적용되는 부분적·국소적 대칭과 내부/외부 대칭을 한 구조로 통합한다(와인스틴 1996). (iii) 카테고리론: 가역 변환만이 아니라 임의의 관계(사상)를 일차로 놓고, "대상은 다른 대상과의 관계로만 결정된다"는 원리(요네다 보조정리)를 증명한다 — 케일리 정리("모든 군은 무언가의 대칭")의 광대한 일반화다. 변환과 변환 사이의 변환에는 자연변환이라는 이름이 붙어 있다. 셋 모두 이름과 방향만으로 충분하며, 이 박스는 건너뛰어도 본문 이해에 지장 없다.
그리고 이 대칭 프레임의 현대적 정점이 있다. 위에서 본 두 기둥 — 갈루아(수론의 대칭)와 표현론(해석학의 대칭) — 이 사실은 하나라는 꿈이다.
더 깊이 | 랭글랜즈 프로그램
추측 수론의 갈루아 표현과 해석학의 보형 표현이 L-함수라는 공통 화폐를 매개로 대응한다는 광범위한 산술 프로그램이다. 비유하자면 “두 언어 사이의 사전”이다. 경계: 사전 비유는 서로 다른 분야의 데이터를 번역한다는 정신까지만 정확하며, 산술 일반형의 표제어 대부분은 아직 대응이 증명되지 않았다. 정리 범위: 특성 0의 de Rham·Betti 기하학적 정식화: Gaitsgory·Raskin 등은 2024년에 시작한 다섯 편의 연작에서 증명을 제시했고, 제1편은 여러 형식 사이의 동치성을 세우며 제5편은 전체 증명을 완결한다고 진술한다. 이것은 수체 위 산술 랭글랜즈 일반형의 해결이 아니다. 이 박스는 건너뛰어도 본문 이해에 지장 없다.
배지를 다시 확인하자. 에를랑겐·갈루아·뇌터·표현론은 정리다. 랭글랜즈는 정식화에 따라 지위가 갈린다. 정리 특성 0의 특정 기하학적 정식화에는 증명을 제시한 연작이 있다. 추측 수체 위 산술 일반형은 미해결이다. “수학은 대칭으로 기술된다”는 프레임의 몸통은 증명된 현실이지만, 산술적 지붕은 아직 공사 중이다.
역연산이 새 수를 창조한다 — 보편 구성의 사다리
이 장의 마지막 주제는 블로그의 또 다른 서사다. 블로그는 "연산의 반복과 역연산이 새로운 수를 창조하며 거기엔 늘 무한의 계산이 결합된다"는 확장 서사를 편다(글 21, 23, 29). 뺄셈이 음수를, 나눗셈이 분수를, 제곱근이 무리수를 낳는다는 그림이다. 이 서사에도 표준 좌표가 있다. 정리 "역연산이 새 수를 창조한다"는 보편 구성의 사다리다.
부품 강제 주문 공정 — 공장에서 조립을 하다가 없는 부품이 필요해지면(결핍: $3 - 5$의 답이 없다), 그 부품을 규격에 맞게 강제로 주문해 창고를 확장한다(음수 추가). 새 창고에서 또 다른 결핍이 발견되면($1 \div 3$이 없다) 또 주문한다. 수 체계의 확장이란 이 공정의 반복이다. 경계: 이 비유는 "결핍을 메우되 필요 최소한으로만 확장한다"는 정신까지 정확하다. "필요 최소한"의 정확한 정의(보편 성질)는 범주론의 언어를 요구하므로 이 책 범위 밖이다.
사다리 전체를 조감하면 다음과 같다. 각 단계의 공정 이름은 알아둘 가치가 있다 — 전부 표준 수학이 규격화해 둔 공정이다.
| 단계 | 결핍(안 되던 연산) | 공정의 이름 | 새 원소 하나를 담는 데이터 | 무한이 필요한가 |
|---|---|---|---|---|
| $\mathbb{N} \to \mathbb{Z}$ | 뺄셈($3-5$) | 그로텐디크 군 구성 | 자연수 두 개(차이의 표기) | 유한 |
| $\mathbb{Z} \to \mathbb{Q}$ | 나눗셈($1\div3$) | 분수체 | 정수 두 개(분자·분모) | 유한 |
| $\mathbb{Q} \to \mathbb{R}$ | 극한(수렴할 자리) | 완비화 | 코시 열 — 무한 데이터 | 무한 |
| $\mathbb{R} \to \mathbb{C}$ | 다항식의 근($x^2+1=0$) | 대수적 폐포 | 실수 두 개($a+bi$) | 유한 |
출발점 $\mathbb{N}$은 1장에서 본 "반복에 의한 자유 생성"(자유 모노이드)이다. 표에서 눈여겨볼 것은 넷째 열이다. 정수 하나는 자연수 두 개로("5와 3의 차"), 유리수 하나는 정수 두 개로("분자 1, 분모 3"), 복소수 하나는 실수 두 개로($a+bi$; 정식 표기로는 $\mathbb{C} = \mathbb{R}[x]/(x^2+1)$이라 쓰는데, 기호는 몰라도 좋다) — 전부 이전 단계 원소의 유한 데이터로 만들어진다. 단 하나의 예외가 실수다. 실수 하나를 지정하려면 그 수로 수렴해 가는 수열, 즉 코시 열(서로의 차가 0으로 가는 수열 — 정식 구성은 5장에서 한다)이라는 무한 데이터가 필요하다.
여기서 잠깐 — 이것이 블로그 서사와 어떻게 만나는지 보자. 블로그의 관찰 "새로운 수의 창조에는 늘 무한의 계산이 결합된다"(글 23, 29)는, 이 사다리에서 정확히 한 단계 — $\mathbb{Q} \to \mathbb{R}$의 완비화 — 에서 참이다. 여기서 '무한'의 뜻은 "각 원소의 구성에 극한 과정(무한 데이터)이 필요하다"는 것이다. 그리고 수의 개수가 "셀 수 있는 무한"에서 "셀 수 없는 무한"으로 뛰어오르는 가산→비가산의 기수 도약도 이 단계에서만 일어난다(가산·비가산·기수의 정식 정의는 5장에서 — 여기서는 "자연수로 번호를 매길 수 있느냐"의 구분이라고만 읽자).
"늘"이 "정확히 한 번"으로 교정된 셈인데, 이 교정은 저자의 논지를 약화시키는 게 아니라 오히려 날카롭게 만든다. 무한이 아무 데서나 필요한 것이 아니라 무리수의 문턱, 단 한 곳에서 필수라는 것 — 블로그가 무한과 무리수를 한 묶음으로 다뤄 온 직관(글 21, 23, 29)이 겨냥했던 과녁의 정중앙이 바로 여기이기 때문이다.
무엇이 증명되었고, 무엇이 열려 있는가
이 장의 주장들을 배지별로 결산하자. "수학 전체를 대칭으로 기술한다"는 프레임의 정립 상태는 이렇다.
에를랑겐·갈루아·뇌터·표현론 층위에서는 완전히 정립되었다 — 전부 정리다. 그러나 두 개의 경계선이 있다.
첫째, 대칭은 수학의 보편 문법 후보 중 하나이지 채택된 유일 문법이 아니다. 카테고리론은 대칭(가역 사상)보다 넓은 "관계(임의 사상)"를 일차로 놓으며, 순서(크고 작음의 구조), 위상(가까움과 연속의 구조), 측도(크기·부피의 구조 — 4장에서 이름을 다시 만난다)처럼 군이 아닌 구조가 일차적인 분야도 있다. 대칭의 언어가 150년간 눈부시게 성공했다는 것과, 그것이 유일한 언어라는 것은 다른 주장이다 — 전자는 정리들의 목록이고 후자는 채택되지 않았다.
둘째, 대칭 프레임의 두 기둥(갈루아, 표현론)이 사실 하나라는 산술 랭글랜즈 프로그램 일반형은 현재진행형 미해결 추측 체계다. 이 문장과, 특성 0의 특정 de Rham·Betti 기하학적 정식화에 대한 2024년 연작의 정리 범위는 분리해야 한다.
덧붙여, 블로그가 요청한 "거듭되는 변환의 메타 학문"(글 9)의 대칭 축에는 이미 이름이 있다: 변환의 변환은 자연변환(카테고리론), 부분 변환은 그루포이드, 변환군들 사이의 다리는 랭글랜즈 함자성이다(함자성은 이름만 알아두자). 저자가 "아직 없다"고 느낀 학문의 상당 부분이, 이 장에서 본 것처럼 이름표를 달고 존재한다 — 다만 그 최전선(랭글랜즈)이 실제로 열려 있다.
무엇이 정리이고 무엇이 추측인가 —
정리 에를랑겐 프로그램(클라인 1872): 기하학 = 변환군의 불변량 연구; 군이 커질수록 불변량은 줄어든다.
정리 갈루아 이론: 중간체 ↔ 부분군의 포함관계를 뒤집는 일대일 대응; 일반 5차 방정식의 군 $S_5$는 ($A_5$가 비가환 단순군이므로) 가해군이 아니다 — 5차 방정식에 근의 공식이 없는 이유.
정리 $\mathrm{Gal}(\mathbb{C}/\mathbb{R}) \cong \mathbb{Z}/2\mathbb{Z}$ — 단 "$\mathbb{R}$을 고정하는"이라는 조건이 핵심(조건을 떼면 선택공리 하에서 자기동형은 비가산적으로 많다).
정리 뇌터 제1정리(1918): 연속 대칭 ↔ 보존량 — 단 변분 구조를 가진 계에 대한 정리이지 만능 원리가 아니며, 이산 대칭(반사, 시간 역전)은 대상이 아니다.
정리 마슈케 정리(유한군 복소 표현의 완전 분해), 케일리 정리(모든 군은 어떤 집합의 치환군과 동형), "푸리에 급수는 원군 $U(1)$의 표현론이다".
정리 보편 구성의 사다리: "새 수의 창조에 무한이 필수"인 단계는 $\mathbb{Q}\to\mathbb{R}$ 완비화 하나뿐이며, 가산→비가산 도약도 이 단계에서만 일어난다.
정리 범위: 특성 0의 특정 de Rham·Betti 기하학적 정식화: Gaitsgory·Raskin 등의 다섯 편 연작은 증명을 제시하며 마지막 논문은 완결을 진술한다.
추측 수체 위 산술 랭글랜즈 일반형: 광범위하게 미해결이다.
경계 명제: 대칭은 수학의 보편 문법 후보 중 하나이지 채택된 유일 문법이 아니다(카테고리론·순서·위상·측도).
2장 요약
- 에를랑겐 프로그램 정리: 기하학이란 "어떤 변환군을 허용하느냐"의 선택이고, 연구 대상은 그 군의 불변량이다. 군이 커질수록 불변량은 줄어든다. "값이 아니라 대칭상의 위치가 본질"이라는 블로그의 구조주의(글 10, 23)는 이 관점의 재발견이다.
- 갈루아 이론 정리: 방정식의 운명은 근의 값이 아니라 근들을 섞는 대칭의 군이 결정한다. 중간체와 부분군 사이에 포함을 뒤집는 일대일 대응이 있고, 5차 방정식에 근의 공식이 없는 것은 일반 5차 방정식의 군인 $S_5$가 가해군이 아니기 때문이다.
- 같은 패턴의 반복 정리: $\mathrm{Aut}(\mathbb{Z},+) \cong \mathbb{Z}/2\mathbb{Z}$(1장)처럼 $\mathrm{Gal}(\mathbb{C}/\mathbb{R}) \cong \mathbb{Z}/2\mathbb{Z}$ — 단 "$\mathbb{R}$ 고정" 조건이 핵심이다. 블로그의 3-상태 대칭이 $\{-1,0,+1\}$과 $\{i,\mathbb{R},-i\}$에서 같은 구조로 나타난다(글 21).
- 뇌터 제1정리 정리: 연속 대칭 하나마다 보존량 하나(시간↔에너지, 이동↔운동량, 회전↔각운동량). 단 변분 구조를 가진 계 한정이며 이산 대칭은 대상이 아니다.
- 표현론 정리: 군에 행렬의 몸을 입히면(표현) 유한군의 복소 표현은 기약 부품으로 완전 분해되고(마슈케), 모든 군은 무언가의 대칭이며(케일리), 푸리에 급수는 원군 $U(1)$의 표현론이다 — 3장에서 소수 세기에 재사용된다.
- 군 너머: 국소 대칭(카르탕 접속), 부분 대칭(그루포이드), 관계 일차(카테고리론·요네다)의 세 확장이 있다. 랭글랜즈에서는 특성 0의 특정 기하학적 정식화에 증명을 제시한 연작이 있고 정리, 수체 위 산술 일반형은 미해결이다 추측.
- 보편 구성의 사다리 정리: $\mathbb{N}\to\mathbb{Z}\to\mathbb{Q}\to\mathbb{R}\to\mathbb{C}$에서 무한 데이터가 필수인 단계는 $\mathbb{Q}\to\mathbb{R}$ 완비화뿐이다(코시 열의 정식 구성은 5장). "새 수의 창조 = 무한 계산"(글 23, 29)은 이 한 단계에서 정확히 참이고, 이 교정은 블로그의 논지를 오히려 날카롭게 만든다.
- 대칭은 수학의 보편 문법 후보다 — 프레임의 고전적 몸통은 정리, 산술 랭글랜즈 일반형은 추측, 그리고 문법의 유일성은 주장된 바 없다.
세 문장으로 확인하기
- 군·군 작용·불변량의 차이를 비유 없이 한 문장씩 말해 보자.
- 기하학적 랭글랜즈 연작이 증명을 제시한 범위와 수체 위 산술 일반형의 미해결 범위를 분리해 쓰자.
- 정삼각형·방정식·함수 중 하나를 골라
변환의 군 | 작용 대상 | 불변량의 세 칸으로 다시 적어 보자.