사람 뇌의 fMRI는 흐릿한 추정이다. 그러나 LLM은 모든 뉴런·모든 층을 한 치의
오차도 없이 완벽한 해상도로 측정한다 — 일부는 직접 꺼서 켜고 끌 수도 있다. 그렇게 쌓은
텍스트에서 비전까지 74개의 발견을 관통하는 한 줄은 이것이다: 의미는 한 곳이
아니라 여러 뉴런에 걸친 '방향(화살표)'으로 저장되며, 그 방향은 학습되고·인과적이며·모달리티(이미지↔텍스트)를 넘는다.
무엇이 학습된 것이고 무엇이 아키텍처가 거저 준 것인지는, 똑같은 구조의
랜덤(untrained) 쌍둥이가 매번 갈라준다. 발견을 하나씩, 왜 → 무엇 → 증거로 차분히 풀어본다.
🎯 왜 중요한가
🔬 무엇인가
📊 증거(실측)
SCROLL ↓
왜 이것이 새로운가
비대칭 — fMRI는 추정하고, LLM은 측정한다
fMRI는 뉴런을 직접 못 본다. 한 칸(voxel)이 약 100만 개 뉴런의 평균이며 느리고 잡음이
많다. LLM 스캐너엔 이 한계가 하나도 없다 — 정확·완전·무손실·인과 개입 가능.
0
fMRI voxel 하나가 뭉뚱그리는 뉴런 수
0
LLM에서 우리가 읽는 단위 — 정확히 하나씩
0
관측 범위 — 모든 층·가중치·인과 개입
들어가기 전에 · 5분 사용설명서
먼저, 이 글에 나오는 용어와 점수 풀이
이 보고서는 뇌과학과 AI의 전문용어를 함께 씁니다. 처음 보는 약어나 숫자가 나오면 언제든 여기로 돌아오세요 —
모두 일상어와 비유로 풀어 두었습니다. 사실 딱 두 가지만 머리에 넣으면 거의 다 읽힙니다:
① AI가 떠올리는 '개념'은 숫자들이 가리키는 방향(화살표)으로 저장되고,
② 우리는 그 화살표를 읽기만 하는 게 아니라 직접 켜고 끌 수도 있다는 것. 나머지는 이걸 재는 자(尺)일 뿐입니다.
💡 점수를 읽는 한 가지 요령:
거의 모든 숫자는 “우연히 찍었을 때 나오는 값”과 비교해서 봅니다. 그 우연값보다 확 높으면 “진짜 정보가 들어 있다”,
우연값과 비슷하면 “아무것도 없다(null)”는 뜻입니다.
큰 그림 · 지금까지의 여정
74개의 발견, 하나의 줄거리
74장의 카드로 뛰어들기 전에 지도를 먼저 펼친다. 이 연구는 흩어진 사실 74개가 아니라
하나의 주장을 텍스트에서 비전까지 밀고 나간 여정이다. 그 주장과 일곱 개의 챕터를 한눈에 본다.
뇌와 LLM이 공유하는 원리는
분산 방향 코딩(DDC) — 의미는 한 곳(뉴런·영역)이 아니라 여러 뉴런에 걸친
방향(화살표)으로 저장되고, 그 방향은 학습되고·인과적이며·위계적이고·모달리티(이미지↔텍스트)를 넘는다.
반대로 뇌는 하고 LLM/VLM은 안 하는 것은 공간·해부적 국소화다 —
조직 원리는 ‘어디에’가 아니라 ‘어느 방향에’ 있다. 그리고 무엇이 학습된 것이고 무엇이
아키텍처가 거저 준 것인지는, 똑같은 구조의 랜덤(untrained) 쌍둥이가 매번 갈라준다.
그래서 이 연구의 결론은 뭉뚱그린 “뇌 ≈ LLM”이 아니라 날카로운 분할이다.
🎬 30초 쇼츠 · 의미 = 방향
“AI는 개념을 뉴런이 아니라 방향으로 기억한다”
이 연구의 출발점인 분산 방향 코딩(DDC)을 30초로. ‘고양이 뉴런’은 없다 — 가장 반응하는 뉴런 스무 개를 지워도 모델은 멀쩡하지만, 개념이 가리키는 방향(벡터) 하나를 지우면 개념이 통째로 무너진다.
발견 15·16이 '의미는 방향'임을 보였다면, 자연히 다음 질문이 따른다 — 그 방향 하나는 도대체 얼마만 한가?
몇 차원? 몇 개 층에 걸치나? 단의적인가? 서로 직교하나? 더해도 안 망가지나? 그리고 비선형까지 동원하면 방향을
이길 수 있나? 다섯 가지 심화 질문(발견 17–21)에 정면으로 답했다.
개념 하나 = 망 전 깊이를 관통하는,
약 2,000 뉴런에 분산된, 단 하나의(직교 아닌) 방향이며,
그 방향이 곧 코드다.
아래 다섯 카드가 각 질문의 답이다. 단, 이 결론은 한 번 통째로 뒤집힌 뒤
다시 세운 것이다 — 그 정직한 과정이 신뢰의 근거다.
정직한 과학 · DDC-Depth의 1차 반증
처음 답은 전부 'trivial artifact'였다
DDC-Depth의 1차 측정은 비판적 재검에서 통째로 무너졌다. 화려해 보였던 수치들이 사실은
측정 도구의 그림자였던 것이다. 우리는 그 비판을 그대로 반영해 재측정했고, 결과가 살아남았기에 비로소 보고한다.
결정적 정정: word-grouped split
단어가 train/test에 동시에 새지 않도록 단어 단위로 분할하니, 랜덤 초기화(untrained)
모델의 디코딩이 0.50(완전한 우연)으로 깨끗이 붕괴했다. 즉 학습 모델의 0.99는 전부 학습의 산물이며,
구조나 누수의 부산물이 아니다. 이 한 번의 정정이 발견 17–21 전체의 토대를 단단하게 만들었다.
광범위 검증 캠페인 · DDC-Depth (F17–F21)
"이 결론들이 정말 맞나?" — 4방향에서 동시에 때렸다
🎯 왜 중요한가
발견 17–21은 단어 단위 분할로 한 번 살려낸 결론이다. 그러나 "한 데이터셋·한 모델·한 풀링"에서만 맞는
우연일 수도 있다. 진짜 법칙이라면 조건을 바꿔도 무너지지 않아야 한다. 그래서 우리는 결론을
깨뜨릴 작정으로 네 방향에서 동시에 공격했다.
🔬 무엇을 했나 — 4방향 공격
① 모델 크기: Qwen 0.5B→14B 5단계(작은 모델일수록 잘 깨진다). ② 개념 종류: 명사를 넘어
추상·감정·구문·감각(시각/청각/촉각/미각)까지. ③ 풀링: 평균 vs last-token(읽는 위치를 바꿈).
④ 인과: 단순 상관이 아님을 못박기 위해 forward 중 개념 방향 1개를 제거(ablation)하고
정확도가 무너지는지 본다. 총 11개 디코딩 조건 + 3모델 인과 실험.
결과: 폐기 0건 · 핵심 4발견 전부 강화
11개 조건 전부에서: 비선형−선형 gap ≤ +0.003(방향=코드, F21) · 직교차원 ≤ 1(rank-1, F17) ·
가법 retention 1.00–1.01(F20, 최대 1.012) · off-diagonal excess > 0(비직교, F19). 등급이 바뀐 건 단 하나 —
F19의 '단의성'만 모델 의존(Gemma-2에서 강함)으로 정직하게 하향했다.
0
조건 전부 통과 — 5 크기 × 4 개념종류 × 2 풀링
0
필요성 — 개념 방향 제거가 랜덤 방향보다 타격 (Qwen)
0
특이성 — 해당 개념에만 타격, 다른 개념엔 거의 무영향 (Qwen)
0
폐기된 헤드라인 발견 — 전부 생존
🧪
11/11 조건 통과 — 무엇을 바꿔도 네 결론이 버틴다
💡
쉽게 말하면
네 결론(손잡이 1개·전 깊이 관통·서로 안 망가짐·방향이 곧 코드)이 진짜 법칙인지, 모델 크기·개념 종류·읽는 위치를 바꿔가며 11가지 방식으로 다시 시험했다. 11번 모두 통과 — 조건을 어떻게 흔들어도 결론이 버텼다. 막대가 길수록 그 조건에서 '단 하나의 방향'만으로 범주를 잘 맞혔다는 뜻.
각 막대 = 한 디코딩 조건. 채워진 만큼이 '선형 방향'의 디코딩 성능(AUC).
막대 옆 ✓는 그 조건에서 4개 발견(rank-1·가법·비직교·방향=코드)이 모두 통과했다는 뜻.
출처: ddc_validation_campaign.json · validate
인과 확증 · 상관이 아니라 필요
⚡
방향 하나를 forward 중에 뽑아내자, 정확도가 무너졌다
💡
쉽게 말하면
'방향이 개념과 관련 있다'와 '방향이 개념을 만든다'는 다른 말이다. 후자를 증명하려면 그 방향을 직접 꺼봐야 한다. 모델이 문장을 처리하는 도중(순전파)에 개념 방향 하나를 빼자 정확도가 와르르 무너졌다 — 같은 크기의 엉뚱한 방향을 뺐을 때보다 74배 큰 타격. 즉 그 방향은 '있으면 좋은' 게 아니라 '없으면 안 되는' 핵심이다.
🎯 왜 결정적인가
"방향이 개념과 상관있다"와 "방향이 개념을 만든다"는 전혀 다른 주장이다. 후자를 증명하려면
그 방향을 꺼서 모델이 개념을 못 알아보게 만들어야 한다. 우리는 Qwen-7B에서 forward 도중 개념 방향
성분 단 1개를 제거했다.
📊 증거 — 정확도 하락폭(클수록 그 방향이 중요)
개념 방향을 빼면 0.185 추락(0.93→0.75) — 같은 크기의 랜덤 방향(0.002)보다
74배 큰 타격이고, 다른 개념의 방향(0.0014)을 빼는 것보다 132배
특이적이다. Gemma-2도 특이성 86배로 확증. 딱 한 모델, Gemma-4만 무효였다 —
중간층 방향 하나를 빼도 흔들리지 않는 재부호화(recoding) 모델(발견 18)이라, 이론이 예측한 예외다.
발견들을 묶으면 한 줄로 정리된다: LLM에서 의미는 벡터 공간의 방향(화살표)이다.
이 이론을 틀릴 수 있는 예측 6개로 쪼개 하나씩 시험했다.
핵심은 살아남고, 곁가지는 잘렸다.
"의미=방향"(인과적·언어무관·합성적·계층적)은 모든 시험을 통과했다. 부수 가설
둘(차원=안정성, 배선비용→위상지도)은 데이터가 반증했다. falsifiable 이론의 정상적 성숙이다.
발견 29 · 이론의 정직한 경계
🧭
"rank-1 방향"은 탐지의 법칙이다 — 개념 가족의 내부는 2차원이다
💡
쉽게 말하면
'개념 = 손잡이 1개'(발견 17)는 어디까지 맞을까? '이게 동물이냐?' 같은 예/아니오 판단엔 손잡이 1개로 충분하다. 하지만 '요일·숫자가 자기들끼리 어떻게 놓여 있나'는 다르다 — 그 내부 배열은 2차원 이상이고, 순서 있는 개념(요일·월·숫자)은 순서 없는 개념(동물)과 또렷이 구분된다(셔플 검정 통과). 특히 숫자는 우연보다 유의하게 '열린 호'다. (처음엔 요일이 '닫힌 고리'라 했지만, 무작위로 섞어도 그만큼 닫혀서 그 위상 주장은 철회 — 시사적 수준.) 모순이 아니라 이론의 경계를 정직하게 그은 것이다.
🎯 왜 중요한가
"의미=1개 방향"(발견 17)은 어디까지 맞나? 이 경계를 정직하게 긋지 않으면 이론이 과장된다. Engels(2024)는
요일·달 같은 일부 특징이 원형(2D)이라는 반례를 보고했다 — 우리 이론과 충돌하는가?
🔬 무엇을 했나
"이게 X냐?"(범주 탐지)와 "X들이 자기들끼리 어떻게 배열돼 있나?"(가족 내부 기하)는 다른 질문이다.
rank-1은 전자엔 맞다. 후자를 직접 재고 셔플-순서 null(1만 회)로 검정하니: 원형도(circR)가 순서 개념(요일·월·숫자 0.93–0.99)을 명목(동물 0.64)과 분리(p≤0.0024, null 통과),
서수(숫자)는 우연보다 유의하게 '열린 호'(p<1e-4). 단 순환의 '닫힌 고리' 위상은 양 모델 모두 null을 못 넘어 철회(요일 p=0.52/0.97) — 무작위 재배열도 그만큼 닫힌다.
모든 순서 개념은 PC1이 0.24–0.35만 설명 → 진짜로 ≥2차원이다.
모순이 아니라 경계다: rank-1 방향은 "이게 X냐"엔 맞고
"X들의 배열"엔 아니다. 후자가 바로 다차원·비선형 특징이 사는 곳(PC1이 0.24–0.35만 설명 → ≥2D). Engels(2024)의 원형 특징은 시사적으로만 재현(n=7–12·null 미통과)되고, null-검증된 건 circR 분리와 서수 개방이다.
한 개념엔 두 개의 거의 수직인 방향이 있다 — 개념을 알아보는 읽기(read) 방향과
만들어내는 쓰기(write) 방향. 글씨를 알아보는 능력과 써내는 능력이 다르듯이.
실용 레시피: 개념 편집·제어는 쓰기(생성) 방향으로 하라. 쓰기 방향은 50칸 전부
(100%) 편집 성공, 읽기 방향은 42%만(작은 모델은 역효과). 활성 스티어링(AI 제어·안전)의 해법이다.
🎬 24초 쇼츠 · 왜 어떤 개념은 안 밀릴까
조종 난이도 = 개념이 담긴 ‘차원’의 수
같은 쓰기 방향으로 밀어도 동물·얼굴은 꿈쩍 안 하고 숫자·색은 잘 바뀐다. 이유는 차원이다 — 단순한 개념은 몇 안 되는 방향(저차원)에 담겨 손잡이가 뚜렷하고, 풍부한 개념은 수십 방향(고차원)에 흩어져 하나만 밀어선 저항한다.
개념이 퍼진 정도와 잘 밀리는 정도는 강하게 반비례한다(발견 12 · 이론 M2). 위 ‘동물·얼굴엔 ≈0’ 천장의 정체다.
발견 25 · 행동으로 재검증
✍️
"쓰기가 더 잘 고친다"를 순환 없이·실제 생성으로 다시 증명했다
💡
쉽게 말하면
앞의 편집 지도는 '쓰기 방향으로 정의한 값'으로 성공을 쟀으니 살짝 자기 채점 같았다. 그래서 단어를 시험용으로 따로 떼고, 문장이 어색해지지 않게 맞춘 뒤, 모델이 그 개념을 실제로 '말하는지'로 다시 쟀다. 결과: 자유 생성에서 개념을 끄집어내는 건 오직 쓰기 방향뿐. 읽기 방향과는 거의 직각(서로 무관)이라 둘은 정말 다른 축이다. (단, 효과는 완만하고 색·음식엔 강해도 동물·얼굴엔 약하다 — 정직한 한계.)
🎯 왜 다시 했나
위 편집 지도는 "편집 성공"을 쓰기 방향이 정의된 바로 그 값으로 쟀다 — 살짝 순환 논증이다. 그래서
단어를 train/test로 나누고(누수 0), 유창성 비용을 맞춘(ppl≤1.5×) 채, 모델이 그 개념을 실제로 말하는지로 다시 쟀다.
🔬 무엇이 나왔나
쓰기(WRITE)는 자유 생성에서 개념을 표면화하는 유일한 방향(on-target 0.12–0.17 vs 읽기 0.01–0.04,
셔플 대비 6–11배). 그리고 이건 비등방성(anisotropy)이 아니다: 읽기 축을 화이트닝해도 격차가 안 닫히고
cos(읽기,쓰기)≈0.02–0.06(거의 수직) — 개념을 탐지하는 방향과 만들어내는 방향은 다른 축이다.
정직한 한계: 효과는 완만하고 개념 의존적(색·음식엔 강하나 동물·얼굴엔 ≈0), 30–50% 누설 있음.
방향이 정말 '조종 손잡이'라면 실제 제어는 얼마나 잘 될까? 선행연구의 강력하지만 비싼 방법(BiPO, 여러 번 최적화)과 우리의 싼 1-step 쓰기를 같은 조건으로 겨뤘다. 놀랍게도 싼 방법이 비싼 방법에 밀리지 않았다(오히려 이김). 단, 동물·차량·얼굴처럼 여러 방향에 흩어진 개념은 어떤 방법으로도 자유 생성으로 못 끌어낸다 — 발견 1·12와 같은 '천장(한계)'이다.
🎯 왜 중요한가
"방향이 곧 손잡이"라면, 실제 제어 성능은 얼마나 좋은가? 선행연구의 강자 BiPO(Cao 2024, 다단계
최적화 스티어링 벡터)를 동일 유창성·동일 크기로 세워 4개 레시피를 겨뤘다 — 방향의 질만 비교되게.
📊 증거 — 개념 표면화율(OTR, 높을수록 좋음)
싼 게 비싼 걸 이긴다: 1-step 쓰기 그래디언트가 BiPO를
행동·logprob 모두에서 못지지 않는다(Qwen에선 BiPO 사실상 실패). BiPO의 진짜 강점은 힘이 아니라 특이성
(Gemma에서 off-target −1.28로 누설을 억제). 그리고 어떤 방법도 분산 개념(동물·차량·얼굴)을 자유 생성으로
끌어내지 못한다 — 발견 1·12와 일관된 천장이다. 다층 주입은 소폭(0.175→0.219) 덤.
지금까지는 "의미가 무엇이고 어디 있나"였다. 이제 가장 큰 질문 — 능력(지능) 자체는 모델 안 어디에 사는가?
같은 가문을 0.5B→14B로 키우면 분명히 더 똑똑해진다(perplexity 21→5). 그 향상은 개념 방향의 정적 기하에 적혀 있을까,
아니면 다른 곳일까? 능력 사다리 + 같은 구조의 랜덤(untrained) 쌍둥이라는, 뇌로는 불가능한 통제로 이걸 갈랐다.
능력은 정적 사진이 아니라
계산에 산다 — 구체적으로 맥락 속 규칙 학습(ICL)이다.
반복되는 교훈(발견 11→23→27): 크기 따라 단조 증가하는 내부 스칼라는 거의 전부 '너비 추적'이라
랜덤 쌍둥이가 똑같이 재현한다. 학습된 능력 신호로 살아남은 건 행동적 ICL-규칙학습 이득 하나뿐이다.
학계의 정설인가?
"방향 = 의미"는 우리가 발명한 게 아니다
이 아이디어는 1980년대 분산 표현부터 이어진 자연어처리·해석가능성의 핵심 정설입니다.
우리는 그 위에 완전 가중치 관측으로 정밀 측정과 새 각도(read/write·영역vs방향·뇌 대조·메커니즘 실측)를
얹었습니다. 계보를 보면:
왜 믿어도 되는가
정직함이 신뢰의 근거다
💡
쉽게 말하면
좋은 연구는 '맞았다'만큼 '틀렸다'도 정직하게 보고한다. 아래는 우리가 스스로 깨뜨리거나 등급을 낮춘 주장들이다 — 이렇게 깐깐하게 걸러냈기에, 살아남은 결론은 믿어도 된다는 뜻이다.
· "능력=정적 내부 스칼라" 후보는 전부 랜덤 쌍둥이가 재현 = '너비 추적' → 강등(F23·F27)
· 전 모델 instruct라는 범위 한계를 명시 → base 형제로 통제해 통과(F26)
· BiPO(Cao 2024) 등 prior-art를 명시 baseline으로 세워 비교(F28)
· 실제 뇌 예측(F33)의 화려한 0.75–0.88은 데이터 누수였다 → passage-blocked로 0.13–0.25 하향. 단 학습 모델만 양수·쌍둥이 음수라 결론은 더 깨끗
· 읽기축↔뇌 '특권'은 변량 혼입이라 주장 안 함 → 변량-매칭 통제를 넘는 쓰기축만 특권 확정(F25↔F33)
· 다국어 LLM↔뇌 다리(F34)는 표본(n=1/언어) 부족으로 약함으로 정직 보고('최초 정렬' 주장 안 함) — 단 피질 허브 자체(R1)는 확실
· 모든 헤드라인은 4관문(셔플·랜덤모델·절반복제·다모델) 통과
발견 32 · 내부 마무리 (IV-A)
🛡️
가장 센 통제(골드 SAE · base 형제)에도 핵심 발견은 버텼다
💡
쉽게 말하면
위가 '스스로 깨뜨린 것'이라면, 이건 '가장 강한 의심에도 버틴 것'이다. 우리 핵심 발견이 '측정 방식 탓'이나 '챗봇 훈련 탓'일 수 있다는 두 의심을 정면으로 시험했다. ① 범주가 '분산'이라는 발견 1을, 업계 최고 수준 특징 자(골드 SAE)로 다시 재도 그대로 분산이었다(숫자만 깔끔한 단일 특징 = 뇌의 '숫자 구역' 유사체). ② 연결구조·추상화·지도없음은 '날것(base)' 모델에도 이미 있어, 챗봇 훈련이 아니라 사전학습의 성질이다.
🎯 왜 중요한가
실제 뇌 데이터로 넘어가기 전, 가장 뒤집히기 쉬운 두 해석을 닫는다 — (A1) "발견 1의 '분산'은 그냥 뉴런 자를 써서 그런 것 아닌가?" (A2) "구조적 발견들이 instruct(챗봇) 부작용 아닌가?"
🔬 무엇인가
둘 다 기존 스캔 재사용(모델 로드 없음). A1 — 골드 SAE(DeepMind Gemma Scope)로 발견 1 재검: 특징 기저에서도 범주는 분산 유지(d′ PR 2.4×만↓·단일 특징 AUC 0.87 < 단일 뉴런 0.93·top-50 특징 ablation ≤0.06) — 단 숫자만 깨끗한 단일 특징(#12251, d′ 6.61, AUC 1.00) = 뇌 '수형역(NFA)' 유사체 (단 발견 60이 하향: 숫자-단어 한 형식에서만 — 숫자는 digit/word/언어 형식 전반에선 오히려 가장 분산된 개념이고 #12251은 숫자 기호엔 침묵). A2 — base↔instruct 구조 통제: 발견 2(커넥톰)·3(추상화 구배)·8(위상 없음)이 base에 이미 존재(Qwen 곡선 corr≈0.997·피크층 동일·Moran's I 양쪽 ~0.01) → 발견 26을 구조 축으로 확장. 정직한 예외: Gemma-2 후반층만 instruct가 구조를 줄인다(생성 증가는 아님).
✅ A1 · 발견 1 버팀
골드 SAE로도 '분산'
단일 특징 AUC 0.87 < 단일 뉴런 0.93. 예외: 숫자 = 단일 특징 '수형역(NFA)' 유사체 (발견 60: 숫자-단어 한 형식만).
✅ A2 · 구조는 사전학습
base에 이미 존재
커넥톰·추상화·지도없음이 날것 모델에도 있음 → 발견 26을 구조 축으로 확장.
골드 SAE 특징 기저 재검(A1) — 범주는 분산, 숫자만 단일 특징. 출처 sae_feature_d1.json
출처: sae_feature_d1.json · base_vs_instruct_structural.json (IV-A · 발견 32)
영상화 — 이 연구의 출발점
신경망을 fMRI처럼 들여다보다
이 프로젝트의 이름(LLM-fMRI)이자 출발점은 dense 모델의 내부를 완벽한 해상도로 '영상화'하는 것이다.
아래는 실제로 렌더링한 세 종류의 '뇌 영상'이다 — 보기만 좋은 그림이 아니라, 각각을 수치로 검증했다(우연/무작위 대비).
영상화 ① · 위상 지도 (localizer)
🗺️
함께 켜지는 뉴런을 평면에 펼쳐 보면 — 지도가 없다
💡
쉽게 말하면
뇌는 비슷한 일을 하는 뉴런을 물리적으로 가까이 모아 '지도'를 만든다(예: 시각피질의 위치 지도). LLM도 그럴까? 함께 활성화되는 뉴런을 평면에 배치(t-SNE)하고 범주 선택성으로 색칠했다. 결과: 색이 뒤죽박죽 = 비슷한 기능이 가까이 모이는 공간 지도가 없다. (의미는 '장소'가 아니라 '방향'에 있기 때문 — 발견 1·15.)
🎯 왜 중요한가
뇌의 대표 조직 원리인 위상 지도(topography)를 LLM이 공유하는지 — 보이는 영상과 숫자로 동시에 확인한다.
🔬 무엇인가 (검증)
단위 공동활성으로 t-SNE 배치 후 범주 대비로 채색. 인접 유사성(Moran's I)을 재면 mean |Moran's I| = 0.012–0.017(우연 ≈0; 뇌 시각피질 retinotopy 0.3–0.7). → 발견 8과 일치: 공간 지도 없음(뇌와 또렷이 다른 점).
위상 지도(localizer) — 색이 공간적으로 뭉치지 않음 = 지도 없음. Qwen L14. 출처 project.py topo · topography_*.json
💡 표 읽는 법: 맨 오른쪽 '판정'만 봐도 됩니다 —
초록 = 뇌와 닮은 점, 주황 = 다른 점. 가운데 숫자·약어(σ·Q·CKA·Moran's I)의 뜻이
헷갈리면 맨 위 용어사전으로. (FFA/PPA·앞측두엽 = 뇌의 '전용 구역', retinotopy = 뇌의 '공간 지도'.)
항목
뇌
LLM
판정
좁은 세상·허브
있음
σ 3.1–12.8
같음
모듈성
Q 0.3–0.5
Q 0.09–0.23
다름(접근 중)
범주 전용 영역
FFA/PPA 국소
분산·중첩
다름(인과 확인)
언어 무관 개념 허브
앞측두엽
이른 층 형성 + 실측 다국어 피질 확인(발견 34)
같음
위상 지도
retinotopy I~0.3–0.7
Moran's I ~0.01
다름(없음)
시스템 간 수렴
—
CKA 0.69–0.77
창발적 보편성
실제 피질 예측 (인코딩)
측정 fMRI
학습 모델만 ✓ · 쌍둥이 음수 (누수 보정 후)
학습된 정렬(발견 33)
LLM은 분산·중첩·학습된 지능이다.
뇌의 효율적 연결과 이른 개념 추상화는 닮았지만, 국소 전용 영역·위상 지도·기능
모듈은 갖지 않는다. 가장 뇌와 다른 점(분산 코딩)을 fMRI로는 불가능한 방식으로 인과적으로 증명했다.
그리고 그 학습된 표현은 — 인용 범위가 아니라 — 실제 측정된 사람 언어 피질을 예측한다(발견 33·34,
누수 통제 후에도 학습 모델만, 쓰기축은 특권 확정).
뇌-비교 배터리 · 한 장 요약 (R7 종합)
🧠
공유 · 위반 · 부분 — 흩어진 뇌 비교를 한 카드로
💡
쉽게 말하면
흩어져 있던 모든 뇌 비교를 한 장에 모았다. 닮은 점: 효율적 연결 구조(좁은 세상·허브)는 뇌와 LLM이 똑같다. 다른 점: 뇌처럼 깔끔한 부서로 나뉘지도, 비슷한 기능을 가까이 모은 공간 지도를 갖지도 않는다 — 의미가 '장소'가 아니라 '방향'에 흩어져 있기 때문. 부분적: 신경을 짧게 쓰는 제약은 '부서 나뉨'만 조금 설명한다.
✅ 공유 (SHARED)
좁은 세상 · rich-club
small-world σ>1 · 허브가 전 모델에 존재. 효율적 연결 원리는 닮았다.
❌ 위반 (VIOLATED)
모듈성 · 위상지도 · 국소 영역
모듈 Q 0.09–0.23(피질 0.3–0.5)·Moran I ~0.01·모듈≠의미(NMI ~0.05)·범주는 영역 아닌 '방향'에 분산.
⚠️ 부분 (PARTIAL)
배선 비용
지역성 페널티는 모듈성 Q만 (작게) 설명하고, 위상 지도는 끝내 못 만든다.
뇌-비교 배터리 — 공유/위반/부분 한눈에. 출처 brain_battery_summary.json
출처: brain_battery_summary.json (R7 · 발견 2·8·9·14·15 집계)
발견 31 · 뇌-비교 배터리 v2 (IV-B)
🧬
뇌 닮은 '활성 통계' 6가지를 랜덤 쌍둥이로 거르니 — 진짜 학습된 건 하나뿐
💡
쉽게 말하면
앞의 배터리(R7)는 '연결 구조'를 뇌와 비교했다. 이번엔 '활성값의 통계'라는 새 축으로 6가지를 더 비교했다. 핵심 장치: 각 지표를 같은 구조의 학습 안 한 랜덤 쌍둥이와 나란히 둬서 '학습이 만든 뇌 닮음'과 '구조가 공짜로 주는 닮음'을 갈랐다. 결과는 냉정하다 — 6개 중 진짜 학습된 뇌 닮음은 딱 하나(활성값의 로그정규 분포)뿐이고, 하나(고유값 멱법칙)는 학습이 오히려 뇌에서 멀어지게 만든다.
🎯 왜 중요한가
R7 배터리는 뇌와 '연결 기하'(좁은 세상·모듈성·위상)를 비교했다. 직교하는 두 번째 축 — '활성값의 통계'(발화 분포·차원·희소성)를 문헌(Stringer·Buzsáki·Lennie·Rigotti·Achard·Margulies)에 맞춰 6개 추가하되, 전부 untrained 쌍둥이 게이트로 '학습이냐 구조냐'를 판정한다 — 뇌 연구로는 불가능한 통제.
🔬 무엇인가
모델 로드 없이 기존 스캔에서 계산. 게이트가 '공유처럼 보이던' 4건 중 3건을 강등했다. ① 로그정규 활성(Buzsáki 2014) = 유일한 학습된 공유(LLR 1.8–3.6 vs 쌍둥이 ~0.05). ② 고유값 멱법칙 α(Stringer 2019, 피질 α≈1.04) = 학습된 반(反)뇌 — 쌍둥이가 오히려 피질값(α≈1.0)인데 학습이 1.4–1.9로 멀어진다. ③ 허브 취약성·④ 깊이 구배 = 구조적(쌍둥이도 가짐). ⑤ 희소성·⑥ 혼합선택성 = 위반(밀집 28–41% 활성·낮은 shattering).
✅ 학습된 공유 (1)
로그정규 활성
활성 크기가 뇌처럼 긴 꼬리 분포(LLR 1.8–3.6). 랜덤 쌍둥이는 ~0.05 → 학습이 만든 진짜 닮음.
배터리 v2 — 6개 활성/그래프 지표, 전부 untrained 쌍둥이 게이트. 출처 brain_battery_v2_summary.json
출처: brain_battery_v2_summary.json (IV-B · 발견 31 · 6지표 전부 untrained twin 게이트)
발견 33 · 실제 뇌 데이터 (IV-C) · 누수 보정·하드닝 완료
🎯
학습한 LLM이 실제 사람 언어 피질을 예측한다 — 누수를 막아도 학습 모델만 맞히고, 랜덤 쌍둥이는 음수
💡
쉽게 말하면
이번엔 진짜 fMRI로 잰 사람 뇌(Pereira 2018) 복셀을 LLM 활성으로 직접 예측했다. 처음엔 노이즈 한계의 ¾–⅞를 맞히는 듯했지만 — 같은 주제 문장이 '연습'과 '시험'에 함께 새어드는 데이터 누수를 막자 그 수치의 67–86%가 사라졌다(진짜 일반화는 훨씬 작다 — 정직하게 보고). 그래도 결론은 오히려 더 깨끗해졌다: 누수를 막으면 학습 모델은 여전히 우연 위로 맞히는데 학습 안 한 랜덤 쌍둥이는 아예 음수로 떨어진다 = 뇌를 닮은 건 순수하게 '학습' 덕분. 게다가 행동을 바꾸는 '쓰기 방향'(발견 25)이 제 변량 몫을 넘어 피질을 예측한다 — 깨끗한 특권 확정.
🎯 왜 중요한가
이 연구의 출발 비대칭 — 뇌는 완전 관측 불가, LLM은 가능 — 을 실측으로 회수하되, '어지간한 공격에도 버티게' 4개 통제를 더 걸었다(누수 차단 CV·쓰기축 깨끗한 검정·학계 베이스라인·다국어).
🔬 무엇인가
ridge 인코딩 모델로 LLM 활성→fMRI 복셀 적합(노이즈 천장 정규화). ① 누수 차단(passage-blocked CV): 같은 문단 문장을 연습·시험에 쪼개지 않으면 천장-정규화 r이 0.75–0.88 → 0.13–0.25로 떨어진다(67–86%가 누수였음). 그러나 학습 모델은 순열 우연을 넘고(p 0.02–0.03) 랜덤 쌍둥이는 음수 = 학습≫구조가 더 또렷. ② 쓰기축 특권(모델 로드): 저변량·읽기축과 직교인 쓰기(그래디언트) 방향이 변량-매칭 통제를 넘어 피질 예측(z 2.5–4.0, p 0.024, 4/4 조건; 랜덤 쌍둥이 음수). 읽기축은 변량 혼입(0/4) → 발견 25↔뇌 연결이 '특권 확정'으로 승격. ③ 인과 ablation: gemma 집중(rank-1)/qwen 분산(발견 1·12가 뇌맵에). ④ 학계 위치: Schrimpf 2021·Brain-Score(≈1.0)는 전부 랜덤 분할 — 우리 0.75–0.88도 같은 대역; Feghhi 2025가 우리가 찾은 누수를 독립 확인. 차별점은 점수가 아니라 통제(누수 차단·쌍둥이·인과·쓰기축).
데이터셋·모델
random-CV (누수)
passage-blocked (정직)
랜덤 쌍둥이(blocked)
Pereira-243 qwen
0.750
0.245
−0.064
Pereira-243 gemma
0.807
0.219
−0.036
Pereira-384 qwen
0.879
0.222
−0.167
Pereira-384 gemma
0.871
0.126
−0.242
누수를 막은 '정직한' 값은 작지만(raw r 0.05–0.09), 그게 핵심이 아니다: 학습 모델은 양수·유의(perm p 0.02–0.03)인데 랜덤 쌍둥이는 음수(빨강) — '뇌 닮음 = 학습' 결론이 누수 보정 후 오히려 더 깨끗하다. + 쓰기축 특권 4/4(z 2.5–4.0). 한계: blocked에선 정점 '층'이 불안정.
random-CV(누수) vs passage-blocked(정직) + 쓰기축 특권. 출처 brain_encoding_passageblocked_summary.json · ivc_write_axis_brain.json
'언어 무관 개념 허브'가 실제 다국어 뇌에도 있다 — 단, LLM↔뇌 다리는 아직 약하다(정직)
💡
쉽게 말하면
발견 5(언어가 달라도 같은 개념은 같은 방향)를 진짜 뇌로 확인했다. 영어·중국어·프랑스어로 같은 동화(어린왕자)를 들은 사람들의 언어 피질을 비교하니, 같은 장면에서 언어와 무관하게 비슷한 뇌 패턴이 나왔다(R1, 확실). 정직한 절반: 그런데 'LLM 활성으로 다른 언어 피질을 건너 예측'하는 다리는 피험자 1명/언어로는 아직 약하다 — 틀린 게 아니라 표본이 작아 힘이 부족하다.
🎯 왜 중요한가
발견 5의 '언어 무관 개념 허브'(뇌의 앞측두엽 유사체)는 지금까지 LLM 내부에서만 보였다. 실제 다국어 뇌(OpenNeuro ds003643)로 처음 검증한다.
🔬 무엇인가
최소 데이터(언어당 1명×3구간, ~660MB)로 cross-language 뇌 RSA(언어망 ROI 28016 복셀, 48 narrative window). R1(확실): 같은 내용 구간의 피질 표현이 언어 넘어 닮음 — EN-CN 0.281·CN-FR 0.240·EN-FR 0.115, 전부 p≤0.0015, lag-0 정점·블록 순열 p=0.0005·절반 안정·8/9 셀 양수. R2–R4(정직): 같은 언어 내 LLM→피질 인코딩은 작동(r +0.05), 그러나 cross-language 전이는 약함(gemma +0.011 쌍둥이 우위지만 무유의, qwen null) = n=1/언어 표본 한계. 주의: '최초 다국어 LLM↔뇌 정렬' 주장 아님(이미 존재). 기여 = F5의 실측-피질 연결 + 동일 4관문.
출처: littleprince_{rsa,encoding,r1_control}*.json (IV-C · 발견 34 · ds003643 Li 2022 · CC BY 4.0 · 4관문)
발견 35 · 범주별 뇌-국소성 순위 (NFA 검증)
🔢
범주별 '단일 뉴런 탐지기'는 학습으로 생기고 숫자가 1등 — 단 "위치는 뇌와 비슷"은 사실이 아니다
💡
쉽게 말하면
뇌엔 얼굴 전용(FFA)·숫자 전용(NFA) 구역이 있다. LLM에도 한 개념을 가장 잘 잡는 '단일 뉴런'이 있을까? 10개 범주를 재보니 ① 그런 단일-뉴런 탐지력은 모든 범주에서 학습으로 생긴다 — 학습 안 한 쌍둥이는 전부 바닥(0.3–0.5)이고, 숫자 토큰조차 임베딩층에서도 특별하지 않다(="숫자라 그냥 티난다"는 반박 사망). ② 숫자가 3개 모델 모두 1등(단일 뉴런 AUC 0.95) = 뇌의 '숫자 구역(NFA)' 유사체. ③ 그러나 위치(places)는 중하위, 맛·감각도 평범 — "위치는 뇌 비슷, 맛은 뇌와 다름"은 사실이 아니다(애초에 그런 발견은 없었음). 그리고 코드는 여전히 분산(숫자도 단일뉴런 0.95<1.0).
🎯 왜 중요한가
발견 1(범주는 분산)·발견 32(골드 SAE서 숫자만 단일 특징 — 단 발견 60이 단일-형식 착시로 하향)를 잇는 정식 검증이다. 핵심 의심을 정면으로: "숫자가 국소적인 건 학습된 '뇌 구역'이 아니라 숫자 토큰이 어휘적으로 튀어서 아니냐?" → 학습 안 한 쌍둥이로 결판낸다.
🔬 무엇인가
v2 배터리(10범주×120자극)에서 범주별 최강 단일 뉴런의 선택도(d′)·AUC·학습배수·셔플 null·단어분할 복제를 측정(trained + untrained 쌍둥이, qwen2.5-7b·gemma2-9b·gemma4-12b, 모델 로드 0). ① 학습 게이트(결정적): 학습 모델 d′ 1.0–2.4 vs 쌍둥이 0.3–0.5 — 임베딩층 포함 전 층에서 숫자(0.54)도 다른 범주(0.47–0.52)와 똑같이 평범 = 숫자 탐지기는 어휘 artifact가 아니라 학습 산물(배수 4.9–6.5×). ② 숫자 1등: 단일 뉴런 AUC 0.95(3/3 모델), 셔플 null 대비 z 23–29. ③ 정직한 한계: 뉴런 기저선에선 2등과 격차 작음(1.2–1.4×, 골드 SAE 기저선에선 큼)·코드는 분산(PR≈전범주 평균)·단어분할 복제 부분적(0.5). '단일 뉴런'은 공간 구역이 아니라 소수-단위 탐지력(LLM엔 공간 지도 없음, 발견 8).
범주별 최강 단일 뉴런 d′ — 학습(청록) vs 학습 안 한 쌍둥이(빨강). 숫자가 1등, 쌍둥이는 전 범주 바닥. 출처 category_localizability.json
출처: category_localizability.json (발견 35 · v2 배터리 10범주 · trained+untrained 쌍둥이 · 4관문)
발견 36 · 세계모형: 공간·시간 (place/grid/time cell)
🗺️
LLM은 텍스트만으로 실세계 '지도'와 '연표'를 만든다 — 학습되고, 실제로 쓰인다
💡
쉽게 말하면
뇌엔 '여기가 어디'를 코딩하는 장소세포·격자세포, '언제'를 코딩하는 시간세포가 있다. 눈도 지도도 시계도 없이 글만 본 LLM도 그럴까? 도시 이름→실제 위경도, 역사 인물·사건→연도를 잔차에서 선형으로 읽어보니 — 읽힌다(R² 0.64–0.74). 게다가 ① 학습 안 한 쌍둥이는 못 읽고(0 근처/음수) = 학습 산물 ② 그 방향을 밀면 모델 답이 북/남·옛/현대로 실제로 이동 = 단순 저장이 아니라 사용한다. 즉 LLM은 글만으로 세계의 좌표 지도를 만든다.
🎯 왜 중요한가
우리 프로그램의 #1 개념 빈틈(예측처리·세계모형)을 여는 첫 실험. "LLM은 표면 통계만 외우나, 진짜 내부 세계모형이 있나"를 뇌의 좌표세포(place/grid/time cell) 대응으로 검정한다.
🔬 무엇인가 (검증)
도시 164·역사항목 153 자극, 3모델(qwen2.5-7b·gemma2-9b·qwen3-8b)+untrained 쌍둥이. 잔차→(위도,경도)·(연도) 선형 프로브. 4관문: ① 학습 게이트(결정적) trained R² 0.64–0.74 vs 쌍둥이 ≈ −0.06…+0.06(공간 쌍둥이는 음수) ② 순열 null 6/6 ③ held-out 엔티티 분할 6/6 ④ 인과 스티어링 5/6(프로브 방향 주입→출력 이동; qwen 공간·시간, gemma2 시간, qwen3 공간·시간 통과 — 단 gemma2 공간만 미통과 z=1.1, 정직한 모델차이). 단일 '공간뉴런'(위도 |r| 0.39–0.48)·'시간뉴런'(연도 |r| 0.46–0.52)도 존재. 정직: 맨 프로브는 Gurnee-Tegmark 2023 기존 결과 — 우리 신규는 학습게이트+인과+다세대+뇌 프레이밍.
공간(위경도)·시간(연도) 프로브 — 학습(청록) vs 쌍둥이(빨강 점선), 단일 뉴런, 인과 스티어링. 출처 t032_space_time.json
출처: t032_space_time.json (Part VI · 발견 36 · T032 · Gurnee-Tegmark 2023 brain-anchored 확장 · 4관문)
발견 37 · 예측처리: 베이즈 신념 기하 (정직한 강등)
🎲
'베이즈 신념 지도'는 잔차에 보이지만 — 학습 게이트에서 강등됐다(대부분 구조 덕분)
💡
쉽게 말하면
뇌는 '예측처리'(다음에 뭐가 올지 끊임없이 베이즈로 추정)를 한다는 이론이 있다. LLM도 그럴까? 정답(베이즈 사후확률)을 아는 HMM 문제로 작은 트랜스포머를 학습시켜 봤더니 — 잔차에서 신념 좌표가 거의 완벽히 읽혔다(R² 0.997). 하지만 우리의 결정적 통제: 학습 안 한 랜덤 모델도 0.90으로 읽혔다. 즉 이건 '학습된 예측'이 아니라 대부분 구조(최근 입력의 함수)가 공짜로 주는 것. 학습은 0.10만 더했고, '미래 정보 초과'도 없었다. → 정직하게 강등.
🎯 왜 중요한가
우리 #1 빈틈(예측처리)을 정면 검정. 발견 36(좌표는 학습됨)과 짝 — 같은 통제(untrained 쌍둥이)가 좌표는 통과시키고 신념 기하는 강등시킨다. 과대주장을 우리 엄격함이 잡아낸 사례.
🔬 무엇인가 (4관문 → MIXED)
mess3(3상태 비유니필러 HMM, 프랙탈 신념 simplex)로 TinyGPT from-scratch 학습. 잔차→신념 좌표 ridge 프로브. 통과: 셔플 null(−0.00)·half-split(0.997)·재현(0.999) = 신념 기하는 실재·안정. 실패(결정적):untrained 쌍둥이 0.903·iid-학습 쌍둥이 0.884 → 학습 증가분 ~0.10뿐; 미래정보 초과 ≈0(k=2 +0.0004). 정직: 맨 발견은 Shai 2024(NeurIPS), 우리 추가는 untrained 게이트 — 그게 "학습된 신념기하"를 "대부분 구조"로 강등. 교훈 F11/F23/F27/F31과 일관.
신념-상태 simplex 프로브 — 학습 0.997 vs 랜덤 쌍둥이 0.90(거의 따라옴) = 대부분 구조. 출처 t040_belief_state.json
출처: t040_belief_state.json (Part VI · 발견 37 · T040 · Shai 2024 brain-anchored + untrained 게이트 · MIXED)
발견 38 · 세계모형: 보드게임 (인과 확인)
♟️
'합법수'만 본 AI가 머릿속에 진짜 판(board)을 그린다 — 그걸 고치면 답도 바뀐다
💡
쉽게 말하면
오델로의 합법수 목록만 보고 배운 작은 GPT가, 실제 판의 상태를 내부에 갖고 있을까(표면 암기가 아니라)? 잔차에서 칸별 돌 상태가 선형으로 읽혔고(정확도 0.89), 결정적으로 — 그 내부 판을 '편집'하면 모델의 다음 합법수 예측이 편집된 판대로 바뀐다(인과 0.92 vs 무작위방향 0.58). 즉 단순 저장이 아니라 실제로 쓰는 내부 세계모형. 7개 관문 전부 통과.
🎯 왜 중요한가
"LLM은 표면 통계만 외우나, 진짜 내부 모형이 있나"의 가장 강력한 검정. 발견 36·37과 묶어 예측처리 빈틈에 정직한 답을 준다.
🔬 무엇인가 (4관문→7/7 통과)
6×6 오델로 합법수 시퀀스로 GPT from-scratch 학습(합법수 정확도 0.93 vs untrained 0.19). player-relative 보드 프로브 0.887(절대 0.784·다수결 0.531). 인과(핵심): probe 방향으로 보드 edit→합법수 예측 일치 0.92 vs 무작위방향 0.58, edit 성공 0.78. 정직: 보드는 수순의 함수라 untrained 쌍둥이도 프로브 0.74(발견 37과 같은 현상) → '학습' 주장은 프로브 격차(+0.15)가 아니라 인과 edit(쌍둥이는 절대 통과 못함)에 근거. 맨 발견은 Li2023/Nanda2023, 신규=untrained 게이트+인과 edit+4관문+뇌 프레이밍.
오델로-GPT 내부 보드 프로브 + 인과 보드-edit — 학습 0.89·인과 0.92, 쌍둥이는 인과 미통과. 출처 t031_board_world.json
출처: t031_board_world.json (Part VI · 발견 38 · T031 · Li2023/Nanda2023 brain-anchored 확장 · 7관문 통과)
발견 39 · 세계모형: 미리보기(look-ahead/pre-play)
🔮
LLM은 다음 다음 토큰을 미리 계산한다 — 제한적이지만 진짜 '미리보기'
💡
쉽게 말하면
뇌는 다음에 올 것을 미리 그려본다(해마 'pre-play'). LLM도 한 발 앞을 넘어 두 발 앞(t+2)을 미리 계산할까? 핵심 통제: '바로 다음 토큰(t+1)'의 기여를 빼고도 t+2가 잔차에서 읽히면 = 단순히 다음 토큰을 정한 게 아니라 진짜 미리보기. 결과: 빼고도 학습 안 한 쌍둥이보다 높게 t+2가 읽혔다(3모델 전부). 단 크기는 작다(직접 효과 +0.02~0.05) — 뇌 pre-play보다 훨씬 약한 '제한적 미리보기'.
🎯 왜 중요한가
"LLM은 한 토큰씩만 보나, 앞을 계획하나"의 직접 검정. 발견 36·37·38과 함께 예측처리 빈틈을 닫는 마지막 조각.
🔬 무엇인가 (4관문→3/3 통과)
376문장·7,100위치, 사전학습 3모델(qwen2.5-7b·gemma2-9b·qwen3-8b)+untrained. 잔차(위치 t)→토큰 t+2 선형 디코딩. 핵심(plan-separation): 실현된 t+1 성분을 회귀제거 후 t+2 재디코딩=직접 미리보기. 직접효과 qwen2.5 0.113·gemma2 0.129·qwen3 0.127 vs untrained-direct 0.069/0.110/0.076 → 전부 쌍둥이 초과(gemma 마진 +0.019로 얇음). t+2의 ~0.01–0.03만 다음토큰 경유 = 대부분 직접. 정직: 맨 발견 Pal2023/Wu2024/Anthropic, 신규=untrained 바닥+n-gram baseline+t+1 통제 직접효과+다모델. 선형 디코더=하한.
look-ahead — t+2 직접 디코딩(t+1 통제 후) vs untrained 쌍둥이/n-gram. 제한적이나 3모델 전부 초과. 출처 t050_lookahead.json
출처: t050_lookahead.json (Part VI · 발견 39 · T050 · Future Lens(Pal2023) brain-anchored 확장 · 4관문)
예측처리 빈틈에 대한 정직한 답: LLM은 세계모형을 만든다 — 단 종류를 가린다.
우리 #1 개념 빈틈(재귀·예측코딩)을 네 실험으로 갈랐다: 좌표(발견 36)·보드(발견 38) = 학습되고 인과적으로 쓰이는 진짜 세계모형(통과), 미리보기(발견 39) = 제한적이나 진짜 look-ahead(통과). 반면 베이즈 신념기하(발견 37) = 대부분 구조가 주는 것(강등). 인과·직접효과 게이트가 '진짜 학습 모형'과 '구조 부산물'을 가르는 결정적 잣대다(둘 다 untrained 프로브 바닥이 높을 때). → 빈틈을 미해결 노출이 아니라 게이트로 검증된 정직한 결과로 전환.
Part V · 뇌-조직 가설
고전 뇌-조직 가설 9종을 LLM에 겨눴다
신경과학의 유명한 뇌 조직 원리(추상 기하·의미 허브·개념세포·저차원 다양체·역할 결합·데일의 법칙·격자세포·분리용량·타임스케일)를 똑같은 4관문으로 검정했다.
판정은 셋으로 갈렸다 — 공유(학습) 1 · 부분(MIXED) 6 · 위반·부재 2. (2026-06-30 Codex 외부 감사로 F40을 공유→부분 정직 강등.)
발견 40 · 추상 기하 (CCGP) · "의미=방향" 부분 확증
🧭
AI는 '생물 vs 무생물'을 한 번도 안 본 범주에도 일반화한다 — 뇌의 '추상 기하'
💡
쉽게 말하면
동물·얼굴로 "생물 vs 무생물"을 가르치면, 학습에 안 쓴 범주(예: 식물·도구)에서도 그 구분을 맞힌다(73%, 학습 안 한 쌍둥이는 찍기 50%). 즉 '생물성'을 공유된 하나의 방향으로 추상화해 저장한다 — 뇌의 추상 영역(해마·전전두엽)과 같은 방식. 단 이 깔끔함은 의미 있는 구분에서만 나오고(아무렇게나 묶으면 일반화 0%), 일부 모델(gemma2)에선 그 방향이 한 줄로 깔끔하진 않다. 그래서 "공유"는 맞되 "완전 동일"은 아니다(MIXED).
🎯 왜 중요한가
뇌 해마·전전두엽의 추상·인수분해 기하(Bernardi 2020 Cell) — 학습한 구분을 처음 보는 조건으로 일반화(CCGP)하면서 동시에 고차원(SD)을 유지 — 를 LLM이 공유하는지가, 이 프로그램의 "의미=방향"(DDC) 주장의 기하학적 확증이자, 발견 4의 저-shattering에 빠졌던 추상화 절반을 채운다.
🔬 무엇인가 (4관문 → MIXED)
scan_v2(10범주, trained/untrained 쌍둥이) 재사용. animacy를 보류 범주로 교차일반화(CCGP)·결정자방향 평행성(PS)·무작위 이분 분리도(SD) 측정. CCGP trained 0.638–0.733 vs 쌍둥이 ≈0.50(학습 게이트 6/6, null p 0.015–0.085); SD도 학습산물(0.93–0.995 vs 쌍둥이 0.51–0.61). PS(결정자) qwen 0.149·gemma4 0.193 통과(2/3), gemma2≈0; 원시 mean-diff read축은 범주정체성 분산에 혼입(split-half cos −0.41~0.00, 정직). 무작위 이분 일반화 ≈0.50 = 추상화는 선택적.
CCGP–SD 평면 + PS — 학습(색) vs 쌍둥이(회색). animacy는 보류 범주로 일반화. 출처 v1_ccgp.json
출처: v1_ccgp.json (Part V · 발견 40 · V1 · Bernardi 2020 brain-anchored · 4관문 · MIXED)
발견 41 · 의미 허브-스포크 (단계적 병변 + T011) · 부분 확인
🧩
'한 칸만 빈다'(스포크)는 셋 다 재현 — 단 '다 같이 흐려진다'(허브)는 한 모델만 뚜렷
💡
쉽게 말하면
뇌의 의미 "중앙 창고"(앞측두엽 허브)가 서서히 망가지면 동물·도구·색이 다 같이 흐려지고(의미치매), 특정 선반(스포크)만 망가지면 그 칸만 빈다. LLM에서 스포크=한 칸만 빈다는 세 모델 다 깔끔히 재현했다(자기 범주만 11~34배 손상). 하지만 허브=다 같이 흐려진다는 qwen2.5 한 모델에서만 분명했고(4범주), gemma2는 사실상 얼굴 한 범주에만 몰렸다. 같은 양을 아무 방향으로 지우면 멀쩡하니 착시는 아니지만, LLM 허브는 뇌처럼 치명적이지 않고(작고, 하류서 자가복구) 잘 버틴다 → 그래서 "부분적으로만 닮음(MIXED)"으로 정직하게 적었다.
🎯 왜 중요한가
사람의 의미 지식은 앞측두엽 허브로 모이고, 거기가 점진적으로 손상되면(의미치매) 특정 범주가 아니라 모든 범주가 두루 흐려진다(Lambon Ralph 2017). 환자에겐 불가능한 조절된 단계적 병변을 LLM에선 할 수 있다 — 이 병이 동기를 준 허브-스포크 이론을 완전 관측계에서 판정한다.
🔬 무엇인가 (4관문 + T011 → MIXED)
공유 범주-좌표 부분공간(허브 HUB-S)을 순방향 중 점진 ablation→10범주 디코딩 손실 vs 단일범주(스포크)→범주특정. SHARED(기계, 3/3): 스포크는 범주특정 견고(특이성 11~34배, 최대 103배), 허브는 용량반응 ρ=1.0·학습됨(쌍둥이≈0)·착시아님(무작위·고에너지 top-PCA 모두 ≈0, 갭 +0.007~+0.058). MIXED(정의적 주장): "범주 일반" 붕괴는 qwen2.5만 뚜렷(4범주: 신체·동물·장소·색), qwen3 부분(숫자), gemma2는 얼굴 1범주=스포크 유사. 크기 작고(≤0.041) 하류서 자가복구(0.041→0.004). 정직: F5 교차언어 허브(HUB-L)는 범주허브와 다른 부분공간(중첩 0.12~0.22)이고 범주일반 손상 안 줌 → 둘을 혼동 금지. probe-디코딩 기준.
모델별 허브 용량반응 vs 통제 vs 쌍둥이 · 범주별 지문(diffuse?) · 허브 vs 스포크 병변 지문. 출처 v2_hub_lesion.json
출처: v2_hub_lesion.json (Part V · 발견 41 · V2 · Lambon Ralph 2017 + T011 가드레일 · 4관문 · MIXED)
발견 42 · 개념세포 불변성 (뉴런 분산 ↔ SAE 국소)
🔦
'파리'를 어느 언어로 써도 알아본다 — 단 한 뉴런이 아니라 분산, SAE 렌즈에선 단일 특징
💡
쉽게 말하면
LLM은 "파리"를 영어로 쓰든 巴黎로 쓰든 같은 개념으로 알아본다(불변성은 학습으로 생긴 진짜 능력). 다만 원래 뉴런에선 정보가 수천 뉴런에 퍼져 있어, 제일 잘 반응하는 뉴런을 꺼도 아무 일이 없다 — 뇌의 "한 개념=한 세포"(제니퍼 애니스턴 뉴런)와 다르다. 그런데 활성을 깨끗이 풀어내는 SAE 렌즈로 보면 물·개·고양이 같은 구체 개념은 단 하나의 특징이 모든 언어에서 켜진다 = 개념세포의 LLM판이 '올바른 좌표계'에서만 나타난다. 의외로 숫자가 가장 분산적이다.
🎯 왜 중요한가
뇌엔 한 개념에만 반응하는 희소·불변 개념세포(Quiroga 2005)가 있다 — 사진·이름·글자 무엇으로 보여줘도 같은 세포가 켜진다. LLM은 국소(발견 35 숫자)인가 분산(발견 1)인가? 완전 관측계에서 결판낸다.
🔬 무엇인가 (4관문 → MIXED)
10개념×교차언어 형태(118자극). 불변성=학습됨: 교차형식 AUC 0.80–0.87 vs 쌍둥이 0.45–0.53(갭 +0.27~+0.40). 뉴런=분산: 최선 10뉴런 제거 손실 ≈0(랜덤과 동일), 최선뉴런 표본 바꾸면 거의 안 겹침(0.14–0.23), 집단 프로브 ≥ 단일뉴런. SAE=국소: 구체개념 5/10이 단일 교차언어 특징(물 #7768 AUC 1.00·오발화 0/106; 도쿄·개·고양이·빨강 0.96). 숫자 반전(7·3 가장 분산 0.85–0.86 — 발견 35는 숫자토큰 효과). caveat: SAE는 gemma2용(특징엔 쌍둥이 게이트 없음).
개념별 불변 단일뉴런 vs 집단 vs 인과제거 + SAE 단일특징(물=완벽). 학습 vs 쌍둥이. 출처 v3_concept_cells.json
출처: v3_concept_cells.json (Part V · 발견 42 · V3 · Quiroga 2005 + Gemma-Scope SAE · 4관문 · MIXED)
발견 43 · 내재차원 압축 (저-D 학습 ↔ 능력 NULL)
📐
학습은 개념을 뇌처럼 7–20차원으로 압축한다 — 단 '차원=능력'은 너비 착시
💡
쉽게 말하면
두꺼운 사전(3584차원)을 펼쳐 놓아도, 학습된 모델은 개념을 실제로는 7~20장짜리 얇은 요약본으로 압축해 다룬다 — 뇌가 수백만 뉴런으로도 몇 개 축만 쓰는 것과 똑같다. 이 '납작하게 만들기'는 학습이 만든 것(초기 무작위 모델은 150장 두께, 모양도 정반대). 다만 "모델이 클수록 차원이 능력을 점친다"는 뇌의 법칙은 LLM에선 깨졌다 — 그건 그냥 모델이 넓어서 생긴 착시(무작위 모델도 똑같이 나옴)였다.
🎯 왜 중요한가
뇌 신경 표현은 뉴런이 많아도 실제 '유효 차원'이 매우 낮다(운동피질 ≲10; Ansuini 2019). 비선형 차원(TwoNN)은 이전의 선형 PR과 다른, 더 정확한 측정이다 — LLM 개념 다양체도 뇌처럼 압축돼 있나?
🔬 무엇인가 (4관문 → MIXED)
TwoNN per-layer(scan 재사용, 모델 로드 0). 저-D 압축=학습: trained 말단 ID 6.5–27(쌍둥이 150–171, 압축 194–556×; gemma2-9b 6.5<운동피질 10), 깊이 모양도 쌍둥이와 정반대(쌍둥이는 끝으로 상승) → 학습 산물(half r 0.91–0.99). 능력=NULL: 말단 ID vs 크기 trained ρ=+0.60(p=0.28 무의미), untrained ρ=+1.00 → 능력신호 아닌 너비 추적(발견 23/27 교훈).
내재차원(TwoNN) 깊이 프로파일 학습 vs 쌍둥이 + 말단-ID↔크기. 출처 v4_intrinsic_dim.json
출처: v4_intrinsic_dim.json (Part V · 발견 43 · V4 · Ansuini 2019 brain-anchored · 4관문 · MIXED)
발견 44 · 역할-채움 결합 (덧셈식 · 인과 플립)
🔗
"누가 누구를 쫓았나"를 하나의 '행위자성' 화살표로 — 더하면 답이 뒤집힌다
💡
쉽게 말하면
"여자가 개를 쫓았다"에서 모델 머릿속엔 "누가 행위자다"라는 공통 꼬리표 화살표가 있다. 이 화살표는 사람이든 개든 똑같은 방향이고(=덧셈식), 처음 보는 단어에도 통한다. 그 화살표를 개 쪽에 더해주면 모델이 "개가 쫓았다"로 답을 바꾼다(2/3 모델에서 확인). 반대로 "그냥 역할이 읽히는가?"만 보면 학습 안 된 무작위 모델도 100% 읽혀서, 그건 증거가 못 된다는 점도 솔직히 적었다.
🎯 왜 중요한가
사람 뇌(Frankland & Greene 2020)는 "누가 누구에게 무엇을 했나"를 위해 역할(행위자/대상)을 대상에 묶는다. 그 코드가 덧셈식(행위자 벡터를 더함, 발견 20/DDC식)인지 결합식(역할⊗대상)인지, 인과적으로 뒤집을 수 있는지가 구조적 의미의 핵심이다.
🔬 무엇인가 (4관문 → SHARED-additive)
역할교환 최소쌍. 덧셈식: 교차대상 '행위자−대상' 코사인 0.75–0.80 vs 쌍둥이 0.09/−0.01/0.21, 사람↔동물 +0.72~+0.77, 1축 LOO 전이 AUC≈1.0. 인과: 행위자축을 대상 토큰에 더하면 "누가 했나" 플립 — qwen2.5 +0.31·qwen3 +0.52 vs 무작위방향(gemma2 읽기 취약해 분리 불가, 반증 아님). 정직: 선형 역할 디코딩 AUC 1.0은 쌍둥이도 1.0(표면 아티팩트) → 증거는 코사인+전이+인과(셋 다 쌍둥이 실패).
역할 디코딩 + 교차대상 덧셈 일관성 + 인과 플립, 학습 vs 쌍둥이. 출처 v5_role_binding.json
출처: v5_role_binding.json (Part V · 발견 44 · V5 · Frankland & Greene 2020 · 4관문 · SHARED-additive)
발견 45 · 데일의 법칙 (위반)
⚡
LLM 뉴런은 흥분·억제를 정확히 반반 섞는다 — 학습해도 무작위와 자릿수까지 동일
💡
쉽게 말하면
뇌 뉴런은 흥분 아니면 억제, 한 배역만 맡는 배우(그것도 8:2 비율). LLM 뉴런은 한 명이 켰다 껐다를 정확히 반반 섞는데, 그 "반반"이 학습 전 동전 던지기(무작위 초기화)와 소수 4자리까지 똑같다. 즉 LLM은 데일의 법칙을 안 지킬 뿐 아니라, 이 부분만큼은 학습이 무작위 상태를 한 톨도 바꾸지 않았다. 뇌의 배선 규칙을 LLM은 공유하지 않는다(동형성 아닌 유추).
🎯 왜 중요한가
뇌의 모든 피질 뉴런은 "한 역할만" 한다 — 흥분만 하거나 억제만, 절대 섞지 않는다(데일의 법칙), 비율도 약 8:2(Markram 2004). 뇌 회로의 가장 기본 배선 규칙인데, LLM도 학습하며 따라갈까?
🔬 무엇인가 (iid 쌍둥이 게이트 → VIOLATED)
3모델 전 MLP 뉴런 157만 개 down_proj 부호 구성을 측정, 같은 평균/분산 무작위 쌍둥이와 대조. 평균 부호순수도 |b|=0.013 = 무작위 이론값 √(2/πH)와 소수 4자리까지 동일, 쌍둥이 대비 차이 ~0. |b|>0.5인 뉴런 0개(157만 중), 흥분비율 E=0.500(8:2 아님), 봉우리지표 0.33(데일이면 1.0). 부정 자체가 발견(약한 비대칭 부풀림 없음) — 배선규칙 위반 가족(Q·Moran's I·모듈≠의미)과 정합.
뉴런 부호-편향 분포 학습 vs iid 쌍둥이(겹침) + E/I 50:50. 출처 v6_dale.json
출처: v6_dale.json (Part V · 발견 45 · V6 · Markram 2004/Song 2016 · iid 쌍둥이 게이트 · VIOLATED)
발견 47 · 격자세포 6중 주기 (없음/NULL)
⬡
지도는 있는데 벌집(육각) 격자는 없다 — 뇌의 격자세포 코드 미공유
💡
쉽게 말하면
뇌의 내후각피질엔 공간을 육각형 벌집무늬로 표상하는 격자세포가 있다(이동 방향에 6중 주기로 반응). 발견 36에서 LLM이 도시의 위·경도를 학습으로 안다고 했으니, 그 지도가 격자세포의 육각 코드까지 가졌는지 봤다 — 아니었다. LLM의 방향성 무늬는 육각(6방향)이 아니라 그냥 "동서로 길쭉한" 단순 쏠림(2방향)뿐. "지도는 있는데 벌집 격자는 없다" = 발견 36(좌표 있음)·발견 8(공간지도 없음)과 짝을 이루는 깨끗한 뇌-차이.
🎯 왜 중요한가
격자세포(Constantinescu 2016)는 물리·개념 공간 탐색 시 이동 방향 θ에 6중(육각) 주기로 변하는 고유 서명을 보인다. LLM이 공간 좌표(발견 36)를 가졌으니 그 지도가 격자 코드까지 공유하는지가 자연스러운 다음 질문.
🔬 무엇인가 (4관문 → NULL)
도시 164(발견 36 스캔 재사용, 모델로드 0)의 잔차를 위·경도 2D에 얹고 도시쌍 방향 θ의 6중 진폭을 교차검증 위상필터(Constantinescu)로 측정, 4/5/7/8중 대조군·쌍둥이·순열 null·3모델. 6중 진폭 +0.018/+0.060/+0.050은 쌍둥이는 통과(−0.026~−0.035)하나, 격자의 핵심 "6중이 4/5/7/8중을 유일 압도"가 0/3 실패 — 어디서나 2중 이방성이 최강(+0.344/+0.146/+0.080, 대륙 동서쏠림), 6중은 4중(qwen2.5)에 지거나 8중과 동률(gemma2/qwen3). 살아남은 약한 6중은 4·8중과 똑같은 일반 even-harmonic warp.
방향별 n-중 주기 진폭 — 6중 vs 2/4/5/7/8중, 학습 vs 쌍둥이. 2중이 최강, 6중 비우세. 출처 v8_grid_periodicity.json
출처: v8_grid_periodicity.json (Part V · 발견 47 · V8 · Constantinescu 2016 · 4관문 · NULL)
발견 48 · 다양체 분리용량 (untangling, 부분)
🪢
학습은 범주 구름을 2.5배 더 잘 갈라놓는다 — 단 '깊이 따라 계단식'은 아니다
💡
쉽게 말하면
뇌 시각경로(V1→IT)는 층을 지날수록 사물 표현을 점점 펴서(untangling) 직선 하나로 가르기 쉽게 만든다. LLM도? 학습은 분명히 범주들을 서로 멀찍이 떼어놓아 학습 안 한 모델보다 2.5배 잘 갈라지게 만든다(다양체 반지름도 3~4배 조밀). 하지만 뇌처럼 "층이 깊어질수록 차곡차곡 더 펴지는" 계단식은 없다 — 초반에 이미 정리하고 중간에선 오히려 다시 엉키기도. 정리정돈은 "학습의 결과"이지 "깊이의 순서"가 아니다.
🎯 왜 중요한가
뇌·DNN에서 표현 다양체의 분리 용량이 위계를 따라 커지며(untangling) 분리성능을 예측한다(Chung 2018·Sorscher 2022). LLM 범주 다양체도 학습·깊이로 펴지는지 본다.
🔬 무엇인가 (4관문 → MIXED)
10범주(각 120단어)를 다양체로 보고 층별 용량 α_c·반지름 R_M·차원 D_M 계산(Cohen2020 시뮬레이션 추정 + Chung2018 기하, scan_v2 재사용). 학습됨: α_c 0.10–0.12 vs 쌍둥이 0.045(~2.5×), R_M 3~4× 조밀, 절반복제 0.95–0.999(너비 고정→F23/F27 함정 통과). 깊이 계단식 위반: qwen U자(중간 재엉킴)·gemma2 평평·gemma4 후반 엉킴. 스케일 NULL(ρ=−0.67 n.s.). 넓은 단어-다양체라 묶음의 ~21%만 분리가능(대비가 결론을 지지).
층별 분리용량 α_c·반지름 R_M 학습 vs 쌍둥이 — 학습 2.5×↑, 단 깊이 단조 아님. 출처 v9_manifold_capacity.json
출처: v9_manifold_capacity.json (Part V · 발견 48 · V9 · Chung2018/Cohen2020 · 4관문 · MIXED)
발견 49 · 타임스케일 위계 (부분)
⏳
"뒷층일수록 긴 맥락" 모양은 구조 산물 — 학습된 건 '맥락 종류 구별력'
💡
쉽게 말하면
뇌는 영역마다 처리 "시간창"이 다르다 — 초기 영역은 단어, 상위 영역은 문장·문단(Hasson 2015). LLM 층도 그럴까? "뒤로 갈수록 더 긴 맥락을 본다"는 모양은 LLM에도 있지만, 학습 안 한 랜덤 모델이 7~15배 더 심하게 보여준다(그냥 불안정해서 아무 변화에도 크게 흔들림) → 그건 학습이 아닌 구조. 학습이 실제로 만든 건 따로: 앞층은 단어 순서만, 뒷층일수록 문장들의 배열(긴 맥락)까지 구별하는 능력. 랜덤 모델은 단어·문장 어느 쪽을 섞어도 똑같이 망가져 이 구별을 못 한다.
🎯 왜 중요한가
대뇌피질은 처리 시간창의 위계(단어→문장→문단)를 갖고, 단위별 섞기로 검정한다(Hasson 2015 시간수용창). LLM 층이 같은 위계를 갖는지, 그게 학습인지 본다 — 어텐션은 원래 전 위치를 섞으므로 쌍둥이 게이트가 필수.
🔬 무엇인가 (4관문 → MIXED)
40개 4문장 글, 마지막 문장 고정·앞 맥락만 (그대로/문장섞기/단어섞기), 층별 잔차 변화 측정(3모델+쌍둥이). 원시 구배=구조: 깊을수록 흔들림↑이나 쌍둥이가 7~15× 큼(뒷층 0.52~0.84), 학습은 민감도 *억제*(초과 −0.45~−0.79, 0/3 탈락). 학습된 신호=단위 구별력: 학습 모델은 far/word 비율 0.07~0.19 → 0.27~0.41로 깊을수록 상승(mono +0.65~0.73), 쌍둥이는 ~0.95 포화로 구별 불가, 절반복제 0.92~1.00. 단 크기 작음. caveat: 어텐션 all-to-all=기능적 유사(F8/N6).
층별 far/word 맥락 구별력(타임스케일 구배) 학습 vs 쌍둥이 — 원시 구배는 쌍둥이가 더 큼, 구별력만 학습. 출처 v11_timescale.json
출처: v11_timescale.json (Part V · 발견 49 · V11 · Hasson 2015 · 4관문 · MIXED)
고전 뇌-조직 9종: 공유 1 · 부분 6 · 위반·부재 2 — 같은 게이트로 정직하게 갈랐다 (Codex 감사 반영).
공유(학습): 덧셈식 역할결합(44, 인과 플립). 부분(MIXED): 추상 기하(40, 다중비교 보정 후 Qwen만 생존·PS는 원시축 아닌 디코더)·의미 허브-스포크(41, 스포크 해리·T011 3/3이나 '범주 일반' 허브 붕괴는 qwen2.5만)·개념세포(42, 불변성은 학습·뉴런 분산·SAE 국소)·저-D 압축(43, 압축은 학습됐으나 차원≠능력)·다양체 untangling(48, 학습 2.5×이나 깊이 계단식 아님)·타임스케일(49, 원시 구배=구조·단위 구별력만 학습). 위반·부재: 데일의 법칙(45, 부호 반반=무작위)·격자세포 6중주기(47, 좌표는 있으나 육각 격자 없음). 결정적 잣대 둘은 그대로다 — untrained 쌍둥이 게이트(학습된 구조 vs 너비/구조 착시)와 인과/T011 게이트(진짜 메커니즘 vs 해석 착시) — 그 위에 얼마나 뇌같은지까지 정직하게 경계 짓는다(41 일반성·43·48 차원·47 격자부재).
V7 · 발달 궤적
개념과 능력이 자라나는 순간을 슬로모션으로 찍다
지금까지는 다 학습된 모델만 봤다. Pythia가 공개한 학습 도중 체크포인트를 우리 엔진으로 스캔해, 표상이 언제·어떤 순서로 생기는지 처음으로 추적했다.
준비운동이 끝난 뒤 같은 구간에서 개념·rank-1·문맥학습이 함께 떠오른다 (탐색적 — "단일 상전이" 단정 아님)
💡
쉽게 말하면
AI가 배우는 과정을 슬로모션으로 찍었다. 처음 ~1000스텝(학습률 준비운동 구간)까진 변화가 없다가, step 256~4000 구간에서 "패턴 따라하기(induction)"·"예시 보고 배우기(ICL)"·"개념을 방향으로 정리하기(rank-1)"가 함께 바닥에서 올라온다 — 뇌의 단계적 학습과 닮은 방향. 단, 정직하게: 그 구간에 체크포인트가 듬성듬성해(256↔1000↔4000 사이가 비어 있음) "딱 한 시점의 상전이"라고 단정할 수 없고(1모델·1시드), ICL·rank-1은 올랐다 다시 내려가기도 한다. 큰 분류가 세부보다 먼저 또렷해지는 "coarse-to-fine"은 데이터상 성립하지 않았다(JSON 판정 NOT-SUPPORTED). 확실한 건 커넥톰: 학습할수록 오히려 덜 모듈화(뇌와 멀어짐).
🎯 왜 중요한가
프로그램의 첫 '궤적' 결과 — 그동안 끝점(다 학습된 모델)과 무작위 쌍둥이만 봤지, 표상이 *자라나는 과정*은 못 봤다. 뇌의 단계적 학습(상위→하위; Saxe 2019)·능력 상전이(Olsson 2022 induction head)와 비교하고 끝점 발견(F17·F24·F27·F2)이 *언제* 생기는지 탐색한다.
🔬 무엇인가 (12 체크포인트, step0=쌍둥이 · 탐색적)
pythia-410m 체크포인트 12개(step 0→143000)를 범주기하(상위 vs 하위)·DDC rank-1·커넥톰 Q/σ·induction/ICL로 스캔. ① 창발 구간: step 256까진 전부 바닥(LR warmup ~1430), 256~4000에서 induction 0→0.95·ICL이득 −0.175→+0.325(이후 −0.10로 반전)·범주 AUC 0.70→0.97·rank-1 0.073→0.37(이후 0.267) — 같은 구간서 함께 상승(공동 창발 시사, 단 256↔1000↔4000 공백으로 '단일 전이' 미확정). ② coarse-to-fine = NOT-SUPPORTED(JSON 자체 판정; 상위 선행 +0.007~0.019는 노이즈 이내). ③ 커넥톰=뇌와 다름(확실): 모듈성 Q 학습으로 감소(0.17→0.052, 뇌 0.3–0.5서 멀어짐), σ 거의 일정. 정직(감사): 탐색적 — 1모델·1시드·전이 구간 공백·비단조. 다중 크기/시드+조밀 체크포인트+사전등록 변화점 검정 필요.
학습 스텝(log)에 따른 induction/ICL 창발(탐색적, 단일 전이 미확정)·범주기하(coarse vs fine)·rank-1·커넥톰 Q/σ. step0=무작위 쌍둥이. 출처 v7_pythia_trajectory.json
기존 발견(F33 뇌인코딩·F17 rank-1·F1 분산)을 각각 한 발씩 더 밀어붙인 세 검증 — 같은 4관문·T011·정직 기준.
발견 50 · 피질 구동 예측 (in-silico Tuckute) · 부분
🧲
뇌를 "켜는" 문장은 예측된다 — 단 개념 조종 손잡이(WRITE)는 뇌 가속페달이 아니다
💡
쉽게 말하면
Tuckute 2024는 모델로 *언어 뇌영역을 세게/약하게 켤* 문장을 골라 실제 fMRI에서 맞혔다. 우리도 in-silico로 재현했다 — 어떤 문장이 언어망을 더 활활 켜는지 모델이 조금 맞힌다(찍기 50%보다 살짝 위 55%). 그런데 한 발 더: 개념을 바꾸는 "핸들"(WRITE 축)을 돌리면 뇌 출력도 커질까? 아니었다 — WRITE는 뇌 전체-볼륨 방향과 거의 직각(우연 수준)이라 핸들을 돌려도 볼륨이 안 커진다. "개념 조향 ≠ 뇌 가속페달". 솔직하게 절반 성공·절반 폐기.
🎯 왜 중요한가
Tuckute 2024(Nat Hum Behav)는 모델로 뇌를 닫힌고리 제어했다. 우리 F33(LLM이 실측 피질 예측)·F25(조종 가능한 WRITE 축)를 합쳐, "WRITE 축으로 피질 구동을 움직일 수 있나"를 묻는다.
🔬 무엇인가 (4관문 → MIXED)
Pereira 실측 피질 인코딩(누수차단 CV)으로 ① 처음 보는 문장의 네트워크 평균 반응을 예측해 강/약 갈리는지 ② 피질-구동 방향이 WRITE vs READ 중 무엇과 정렬되는지(분산매칭). 드라이브 예측: 학습 Pearson +0.05~+0.12 vs 쌍둥이 ≈0~−0.09, AUC 0.53~0.58, 순열 p=0.0196 → 학습됨·우연초과·작음. 제어성: WRITE z −0.39~−0.77(분산매칭 무작위보다 낮음), READ에 1/30만 우세, cos(WRITE,구동)≈0.013=우연 → NULL. F33 재탕 아님: F33=복셀별 부분공간 예측(유지), V10=집합 반응 + 제어성(신규, 기각).
우리 이론(F17)은 "동물·숫자 같은 *명사*는 LLM 내부에서 방향 하나로 적힌다"고 했다. 그런데 "거절"은 명사가 아니라 *행동*이다. 측정해 보니 거절도 딱 하나의 손잡이(방향)에 달려 있었다 — 그 손잡이를 끄면 거절을 거의 안 하고(거부율 1.0→0.0), 아무 손잡이나 끄면 그대로다(T011). 즉 "의미=방향 하나"가 명사를 넘어 행동까지 확장된다. (안전: 거부했는지/응했는지 *비율*만 쟀고 유해 내용은 만들지 않음.)
🎯 왜 중요한가
DDC "의미=방향 하나"(F17)는 명사 범주에서 세웠다. 추상 *행동*(거절)도 rank-1이면, 그 법칙이 명사를 넘어선다 — 표상의 보편 문법에 한 걸음. (Arditi 2024 재현 + DDC 프레이밍.)
🔬 무엇인가 (4관문 → SHARED, 안전측정)
해로운 vs 무해 요청 36쌍으로 거절 방향(평균차) 추출, ① 단일 방향 읽기 AUC가 전체 probe만큼인가 ② 그 방향 제거 시 거부율 떨어지나(무작위 방향은 안 떨어져야, T011). 단일방향 AUC=전체=1.000(3/3), 주축 일치 cos 0.998~0.999. 제거 시 거부율 −0.86~−1.00, 무작위는 ~0(T011 3/3), 무해에 더하면 +0.56~0.94. 절반복제 0.93~0.97. 정직: qwen3은 거절을 *일찍 읽지만 늦게 결정*(L14 vs L32)=read≠write(F25), "높은 read-AUC≠인과" 교훈. 안전: 첫 토큰 분류·유해 출력 0.
출처: t057_refusal_rank1.json (Part VI · 발견 51 · T057 · Arditi 2024 · F17 확장 · 4관문 · SHARED · 거부율만(안전))
발견 52 · 사실 국소화 (부분 ROME 재현 · 감사 하향)
📍
개별 '사실'은 주어·중간층 MLP 쪽에서 꺼내오는 경향 — 단 "학습된 국소성"으로 단정 못 함(부분 재현)
💡
쉽게 말하면
F1은 "개념 범주는 여러 뉴런에 흩어져 저장"됨을 보였다. 그럼 "에펠탑은 파리에 있다" 같은 *개별 사실*의 꺼내오는 자리는? 인과추적으로 보니 주어 단어·중간 층 MLP 쪽에 치우쳐 있었다(ROME 서명과 일치). 책 *내용*은 흩어져 있어도(분산) *색인*은 특정 자리에 있는 셈. 단, 정직하게(감사): "이 국소성이 *학습으로* 생겼다"는 쌍둥이 게이트는 여기선 순환이다 — 학습 안 한 쌍둥이는 애초에 그 사실을 *모르니까*(정답 확률 0) 복원될 게 없어 당연히 0이 나온다. 즉 "사실을 아느냐"를 잰 것이지 "학습이 국소화했느냐"를 가른 게 아니다. 게다가 주어×중간층×MLP 삼중 일치도 모델마다 들쭉날쭉(gemma2 중간층 57%·qwen3 40%). 그래서 "부분 ROME 재현"으로 하향.
🎯 왜 중요한가
뇌의 오랜 논쟁(개념세포=국소 vs 분산)을 *개별 사실* 수준에서 본다. F1(범주 분산)·F35(숫자 단일특징)·발견 42(SAE 국소)를 사실 단위로 잇는다 — 단 아래 한계 안에서.
🔬 무엇인가 (ROME 재현 · 감사 하향)
ROME 인과추적(Meng 2022): 주어 토큰 임베딩에 잡음→답 붕괴→층×토큰 위치를 하나씩 복원해 P(정답) 회복. 3모델·사실 7~12개·무작위잡음 대조. 정점이 주어 토큰(60~100%·회복 52~66%)·중간 층·MLP 우세(gemma2·qwen3) = ROME 서명. 감사 지적: ① untrained 쌍둥이 게이트는 순환(쌍둥이는 사실 자체를 모름 P≈0) → "학습된 국소화" 주장 근거 못 됨 ② 주어×중간층×MLP 삼중 교집합 미보고·모델의존(중간층 gemma2 57%·qwen3 40%)·복원값 1 초과(과잉). → "부분 ROME 재현"으로 하향, 단일 뉴런 아닌 밴드(13~23%). 필요한 것: 확률-매칭 대조사실·삼중 교집합·다잡음.
출처: t087_fact_localization.json (Part VI · 발견 52 · T087 · Meng 2022 ROME · 부분 재현(Codex 감사 하향))
Part VII · 동적 계산
정적 기하를 넘어 — 계산이 흐르는 동안을 본다
Codex 감사의 지적("정적 끝점 과다")을 정면으로 받아, 표상이 아니라 동적 계산(경계 재활성·층간 통신·예측오차·자기복구)을 검증한 4실험. 판정: 부분 2 · 부분공유 1 · 공유 1.
발견 53 · 서사경계 재활성 (A1 · Hahamy 2023)
📖
이야기 전환점에서 "관련 옛 사건 되살리기"는 대부분 단어 겹침 착시 — 진짜 문맥 신호는 작게만 남는다
💡
쉽게 말하면
사람 뇌는 이야기 장면 전환점에서 다음에 필요한 바로 그 과거 사건만 골라 되살린다(Hahamy 2023). LLM도 관련 사건을 무관한 사건보다 더 되살리는 것처럼 보였다(격차 0.24/0.33). 그런데 결정적 통제: 그 격차의 ~90%가 단어 임베딩(0층)에 이미 있다 — 뒷문장이 관련 사건의 단어를 다시 써서 생긴 착시. 단어 겹침을 걷어내면 진짜 "문맥으로 되살리는" 신호는 마지막-토큰 통합상태에만 작게(0.11/0.15) 남는다(학습 필요, 쌍둥이≈0). 즉 뇌처럼 특정 사건을 콕 집어 꺼내는 강한 증거는 아님.
🎯 왜 중요한가
사건 경계에서의 *선택적 일화 인출*은 뇌의 대표적 동적 계산(해마+기본망). F34(전체 서사 다국어 정렬)·F49(문맥 타임스케일)와 달리 "특정 과거 사건을 꺼내오나"를 직접 검정.
🔬 무엇인가 (4관문 → MIXED)
다중사건 이야기 20편×2판본(counterbalanced로 최신성·놀람·의미변화 자동 상쇄). 관련−무관 원격사건 재활성 측정, 단어 겹침을 (1)내용어 (2)임베딩(0)층 유사도로 통제. 원격차 0.239/0.332(쌍둥이 0.007·순열 z≈18)이나 0층에 이미 0.275/0.302=표면. 0층 초과 문맥성분 mean-pool≈0. 마지막-토큰(겹침 baseline 없음)엔 0.110/0.148(t≈8·쌍둥이≈0·순열·반분할 통과). 인과는 방향만 맞고 결론 못 냄. → 내용-관련 이월이지 일화 인출 메커니즘 아님.
관련−무관 재활성 격차 — 원(raw) vs 0층 통제 vs 마지막토큰, 학습 vs 쌍둥이. 출처 a1_boundary_reinstatement.json
출처: a1_boundary_reinstatement.json (Part VII · 발견 53 · A1 · Hahamy 2023 · 4관문 · MIXED)
발견 54 · 층간 통신 부분공간 (A2 · MacDowell 2025)
🔀
한 블록이 다음에 넘기는 "쪽지"는 16줄이면 95% — 단 얇은 건 타고났고, 학습은 더 또렷·의미있게
💡
쉽게 말하면
뇌는 한 영역이 다음으로 활동 *전부*가 아니라 작은 일부만 흘려보낸다(통신 부분공간). LLM 블록 사이도 그럴까? 옆 방으로 넘기는 "쪽지"가 16줄이면 내용의 95%가 복원될 만큼 얇았다. 그런데 얇은 건 학습 전에도 그랬다(쌍둥이가 더 얇음)=타고난 구조. 학습이 한 일은 새 비밀 통로를 판 게 아니라 쪽지를 더 또렷하고 의미 있게(무슨 카테고리인지 적힌) 쓰는 것. 쪽지 내용은 그 방에서 제일 크게 변하는 방향 그 자체였다(숨은 회로 아님).
🎯 왜 중요한가
뇌는 저차원·과제의존 통신 부분공간으로 영역 간 정보를 라우팅(Semedo 2019·MacDowell 2025). F2(상관 연결)·F16(잔차=버스)를 넘어 "블록 사이 실제 전달되는 저랭크 내용"과 그 학습성을 규명.
🔬 무엇인가 (4관문 → MIXED)
업데이트 Δ_l=x[l+1]−x[l]를 x_l로 축소랭크회귀(잔차-항등 회피·거대활성 표준화). ① 16차원이 예측가능 변이 91~98%(저차원 확정) ② 쌍둥이가 *더* 저차원=아키텍처 ③ 학습>쌍둥이 R² +0.14/+0.14/+0.25(3/3, 전달 충실도) ④ 채널=의미적(카테고리와 124~199× 겹침) ⑤ 통신≈업데이트 최대변이 PCA(0.95~1.0)=숨은 라우팅 아님 ⑥ 자극별 다른 채널(0.04~0.06, 문맥의존·단 공분산 혼입) ⑦ 피질축 겹침 널.
통신 랭크·전달 R²(학습 vs 쌍둥이) + 의미/PCA 겹침. 출처 a2_comm_subspace.json
출처: a2_comm_subspace.json (Part VII · 발견 54 · A2 · MacDowell 2025 · 4관문 · MIXED)
발견 55 · 예측오차 유닛 (B1 · Furutachi 2024)
❗
"놀람" 다이얼 하나가 아니라 — "문법 틀림"·"엉뚱한 대상"을 다른 방향에 따로 적는다 (단 '의미'는 놀람에 흡수)
💡
쉽게 말하면
뇌는 예상이 깨질 때 그냥 "놀랐다" 크기만이 아니라 무엇이 틀렸는지를 담은 내용별 오류 신호를 낸다(Furutachi 2024). LLM도? "얼마나 뜻밖인가(surprisal)"를 통계로 걷어낸 뒤에도 위반이 읽혔고(AUC 0.79~0.82, 쌍둥이 0.36~0.47), "문법이 틀렸다"와 "엉뚱한 대상이다"를 서로 다른 방향(거의 직교)으로 따로 표시했다. 그 방향을 지우면 이후 생각이 실제로 흔들린다(인과). 단 정직하게: "의미가 이상하다"는 그냥 "많이 뜻밖이다"와 거의 같아서 따로 구분 안 됨 → 부분적 유사.
🎯 왜 중요한가
예측코딩의 핵심: 오류가 *크기 하나*인가 *내용별*인가. F37(신념)·F39(미래토큰)와 달리 오류-담당 방향과 그 *갱신* 역할을 분리 검정.
🔬 무엇인가 (4관문 → SHARED-limited)
같은 단어가 한 문맥선 자연·다른 문맥선 위반이 되게 짝맞춤(정체·빈도 고정), 3종 위반(의미·문법·정체). 놀람·엔트로피·빈도 걷어낸 잔차서 위반 판별. 놀람 너머 AUC 0.79~0.82(쌍둥이 0.36~0.47), 같은종류≫이식(특이성 +0.09~0.22, 쌍둥이 음수), 방향 거의 직교. 인과: 정체(+0.03/+0.04)·문법(+0.02) 오차축 제거 시 이후상태 특이 교란(쌍둥이≈0). 정직: 문법=가장 깨끗(놀람과 직교 cos 0.15~0.19·AUC 1.0), 의미=놀람에 흡수(별도 부분공간 약함). gemma shuffle 0.414 marginal.
놀람 너머 오차 판별 + 종류별 방향 직교성 + 인과 갱신, 학습 vs 쌍둥이. 출처 b1_prediction_error.json
출처: b1_prediction_error.json (Part VII · 발견 55 · B1 · Furutachi 2024 · 4관문 · SHARED-limited)
발견 56 · 자기복구 = 학습된 축중성 (B4 · Hydra, McGrath 2023)
🩹
핵심 블록을 뽑아도 뒤 블록들이 재계산해 스스로 복구한다 — 정규화 착시가 아닌 학습된 예비회로
💡
쉽게 말하면
뇌는 한 부위가 망가져도 다른 부위가 대신하는 축중성을 갖는다. LLM도 한 계산 블록을 뽑으면 아래 블록들이 그 일을 대신 떠맡아 스스로 복구한다('히드라 효과'). 예: 거부 회로 핵심블록 제거→거부축 12.71→2.54로 붕괴→아래층 재계산이 12.90(원래값)으로 완전 복구. 중요한 건 이게 학습으로 만든 진짜 예비회로라는 점 — 무작위 초기화 쌍둥이는 이걸 못 한다(정규화 착시 아님), 랜덤 방향 제거보다 15배 특이적. 백업은 한 곳이 아니라 여러 층에 퍼져 있어(F1) 하나 뽑아도 안 무너진다.
🎯 왜 중요한가
뇌 축중성(다른 요소가 같은 기능; Edelman&Gally 2001)·해석학의 Hydra 효과(McGrath 2023). F41이 서술로만 언급한 자기복구를 보상 블록 지도화 + 재계산 vs 정규화 분리 + 학습 게이트로 정식화.
🔬 무엇인가 (4관문 → SHARED, 8/9)
3회로(거부·사실·induction)×3모델 블록별 절제, freeze-downstream path-patch로 재계산 vs 정규화 분리. 학습된 복구 8/9: 복구 +0.62~+1.85, 대체=다음 몇 블록(지연 3~5). 결정적: 쌍둥이는 복구 안 함(~0/음수, 8/9)=정규화 아님, 랜덤 15× 적음=특이. 거부/induction 분산-중복(백업 다수), 사실만 소수 집중. 단일블록 절제해도 거부율 불변(행동 중복). 예외: qwen3 induction은 쌍둥이 재현=정규화(1/9), qwen3 거부는 늦은 층이라 복구 여지 없음. 안전: 거부율만.
회로별 복구율·지연·대체블록, 학습 vs 쌍둥이 + 랜덤 통제. 출처 b4_self_repair.json
출처: b4_self_repair.json (Part VII · 발견 56 · B4 · McGrath 2023 Hydra · 4관문 · SHARED)
동적 계산 4종: 부분 2 · 부분공유 1 · 공유 1 — 감사의 '정적 끝점 과다' 지적을 정면 해소.
공유: 자기복구=학습된 축중성(56, Hydra·쌍둥이 게이트·재계산 검증 8/9). 부분공유: 예측오차 내용-특이(55, 문법·정체는 놀람과 분리·인과, 의미는 놀람 흡수). 부분(MIXED): 서사경계 재활성(53, 대부분 단어 겹침·문맥신호는 마지막토큰에 작게)·층간 통신(54, 저차원은 아키텍처·학습은 충실도/의미). 여기서도 untrained 쌍둥이 게이트가 '학습된 계산'과 '구조 착시'를 매번 갈랐다(53 마지막토큰·54 전달 R²·55 특이성·56 재계산 = 학습; 53 겹침·54 저랭크·55 의미 = 구조/표면).
오케스트라 단원(뉴런)들이 학습이 무르익은 뒤에도 자리를 계속 바꿔 앉는다(창발 직후→끝까지 최선호 카테고리 절반 이상 교체). 그런데 관객이 듣는 연주(집단이 읽는 카테고리 정보)는 그대로 — step4000에 만든 '악보 읽는 법'을 최종 모델에 대면 AUC 0.99로 맞다. 뇌의 "개별 세포는 표류해도 팀 기능은 유지"(Bauer 2024)와 성질 동일. 단 LLM에선 자리바꿈이 학습 끝날수록 잦아드는(굳어가는) 점이 다르다.
🎯 왜 중요한가
뇌 학습 중 개별 뉴런 튜닝은 표류해도 집단 판독은 안정(Bauer 2024). F46(*언제* 창발)의 다음 질문 — *창발 후* 유닛이 계속 갈리는지.
🔬 무엇인가 (4관문 → MIXED)
Pythia-410m·160m 12체크포인트(step0=쌍둥이), 같은 유닛공간서 유닛 튜닝 변화 vs 집단 안정. 창발후: 집단 기하 안정(Procrustes 0.88)·얼린 판독축 AUC 0.99(무작위 0.50), 유닛은 2.1~2.7× 빠르게 뒤바뀜(최선호 유지 0.46). 안정=학습(쌍둥이 우연)·순서순열 p≤0.005·2크기. 정직: 드리프트 잦아듦(0.20→0.11→0.06)=굳혀가는 것이지 Bauer의 정지상태 아님·"기능"=고정 디코더.
유닛 드리프트 vs 집단 안정 궤적(학습 vs 쌍둥이, F46 창발구간 표시). 출처 a3_drift.json
출처: a3_drift.json (Part VII · 발견 57 · A3 · Bauer 2024 · 4관문 · MIXED)
발견 58 · 활성당 정보 효율 (A4 · 에너지코딩 2024)
🔋
쓸모정보는 '활동 예산'의 1%에 학습으로 몰린다 — 단 뇌처럼 아껴 쓰진 않는다
💡
쉽게 말하면
뉴런 수천 개가 늘 왁자지껄해도, 정답에 필요한 정보는 그 소음의 1%, 그것도 목소리 큰 뉴런이 아니라 작지만 딱 맞는 소수에 학습으로 몰려 있다. 뇌도 '조금 써서 많은 정보'지만 뇌는 실제로 조용히(희소<1%) 하고, LLM은 시끄럽게 에너지를 낭비(28~41% 밀집)하면서 정보만 알뜰하게 담는다 — 효율의 '결과'는 닮고 '절약 습관'은 안 닮았다.
🎯 왜 중요한가
뇌 에너지효율코딩: 쓸모정보를 극소 비용에 집중. F31(활동 밀도만 측정)을 넘어 에너지 단위당 쓸모·인과 정보 첫 측정.
🔬 무엇인가 (4관문 → MIXED)
뉴런을 효율(정보/비용) 순으로 담으며 활동비용 몇 %로 판별 90% 회복하는지. 비용의 0.2~1.6%로 90%(5% 예산 0.94~0.99). 학습됨: 5% 예산 학습 0.94~0.99 vs 쌍둥이 0.09~0.43. 비용축⊥정보축(거대활성=비싸도 정보無)→효율순이 크기·PCA 10~400× 우위, 순열 붕괴·5모델. 단 활동 여전히 빽빽(28~41% vs 뇌<1%)=결과만 닮음.
정보/비용·인과/비용 프런티어(학습 vs 쌍둥이) + 크기/무작위/PCA 대비. 출처 a4_efficiency.json
출처: a4_efficiency.json (Part VII · 발견 58 · A4 · 에너지코딩 2024/Marks 2024 · 4관문 · MIXED)
발견 59 · 결합 이름표 (B2 · Feng&Steinhardt 2024)
🏷️
"누가 무엇을 가졌나"를 rank-1 이름표로 묶는다 — 이름표를 바꾸면 답이 바뀐다
💡
쉽게 말하면
모델은 "Alice=빨간 상자"처럼 사람과 물건을 하나의 이름표로 묶어 둔다. 그 이름표(특히 물건 쪽)를 두 사람 사이에 바꿔 붙이면 모델이 "Alice가 파란 열쇠"로 답을 바꾼다(교환율 0.79/0.99/1.0). 무작위·위치를 건드리면 안 바뀜=진짜 결합 손잡이. 학습 안 한 쌍둥이는 못 함(≈0.03). 이름표는 방향 하나(rank-1). 단 처음 보는 문장 틀에도 통하는 건 3모델 중 2개.
🎯 왜 중요한가
뇌·모델은 대상에 속성을 *묶어야* "누가 무엇을"을 안다. 임시 결합 이름표(Feng&Steinhardt 2024) — F44(행위자/대상 역할축)와 다른 변수(개체↔속성).
🔬 무엇인가 (게이트 → SHARED 2/3)
다개체-속성 문장서 결합 이름표 벡터 추출·rank 측정, 두 대상 이름표 맞바꿔 속성 교환 인과검증. rank-1(0.99~1.0 vs 쌍둥이 0.68~0.83), 맞바꿈 교환 0.79/0.99/1.0, 속성쪽만 바꿔도 1.00(대상쪽만 0~0.43=비대칭), 위치·무작위·쌍둥이·순열 ≈0. 전이(처음 보는 틀): gemma2 0.69·qwen3 0.75 통과, qwen2.5만 0.29→2/3 SHARED.
패치유형별 속성교환율 + rank-1(학습 vs 쌍둥이) + 전이/순열. 출처 b2_binding.json
출처: b2_binding.json (Part VII · 발견 59 · B2 · Feng&Steinhardt 2024 · 게이트 · SHARED 2/3)
발견 60 · SAE 지도 vs 좌표계 (B7 · Chanin 2024) · F32/F35 정정
앞선 발견(F32/F42)은 "물·개·숫자 같은 구체 개념이 SAE 특징 하나에 담긴다"고 했다. B7은 그게 *전부인지* 물었다 — 특징 하나(또는 특징 가족 50개)를 지워도 개념이 안 사라진다(판독 0.82~0.97, 우연 0.5). 개념은 잔차 곳곳에 여러 번 적혀 있어서(F1) 표지판을 뽑는다고 지워지지 않는다. 게다가 F32가 "가장 깨끗한 하나"라던 숫자는, 알고 보니 "3"과 "three"와 "sept"가 서로 다른 특징에 흩어진 가장 조각난 개념이었다(#12251은 숫자 기호에 전부 침묵) — "숫자=깨끗한 localist"는 단어 한 형식만의 착시. 즉 SAE는 탐지 지도로는 훌륭하지만 인과 좌표계로는 불완전.
🎯 왜 중요한가
SAE 특징 흡수(absorption)·조각남(splitting)은 특징-수준 인과 설명이 언제 깨지는지 예측(Chanin 2024·Li 2024). F32/F42의 SAE-localist 주장을 정직하게 정밀화·정정.
🔬 무엇인가 (게이트 → MIXED, F32/F35 정정)
골드 Gemma-Scope SAE로 F32/F42 개념을 말바꿈·형태·부정·다의어·다국어까지 재검사, 단일 vs 흡수가족 vs 무작위(에너지 맞춤) 인과제거. 탐지 AUC 0.87~1.00(확인). 단 표면탐지('dog'가 "hot dog"·"not a dog"에 100%). 숫자 #12251이 숫자기호 3/7/5/9에 전부 0=최다 조각(≥3특징), 절반재현 대표특징 0.08. 인과 미완결: 상위 50특징 다 지워도 개념 0.82~0.97 생존(6/6). → SAE=탐지지도, 인과좌표계 아님(F1 정합).
개념별 조각남·흡수 + 단일 vs 가족 인과완결성. 출처 b7_sae_chart.json
출처: b7_sae_chart.json (Part VII · 발견 60 · B7 · Chanin 2024/Li 2024 · F32/F35 정정 · MIXED)
발견 61 · 확신 vs 선택 (B3 · Vivar-Lazo 2025)
🎯
"내가 맞았나?"라는 내부 확신은 출력 뾰족함과 별개로 읽힌다 — 단 그걸로 조종하진 못했다
💡
쉽게 말하면
AI 머릿속엔 "출력이 얼마나 확실해 보이나(엔트로피)"와는 별개로 "내가 맞은 것 같다"는 내부 감각(확신)이 실제로 새겨져 있다 — 엔트로피를 통계로 걷어내도 정답 여부가 읽힌다(AUC 0.79~0.94, 쌍둥이는 우연). 뇌가 선택과 확신을 따로 담는 것과 닮음. 단 정직하게: 그 감각 스위치를 눌러 "답은 그대로 두고 자신감만 키운다"는 인과 조종은 실패 — 아무 방향이나 세게 밀어도 얼버무림이 그만큼 흔들려, 쌍둥이 대조가 과장을 걸러냈다.
🎯 왜 중요한가
뇌 두정엽은 선택과 확신을 구분되게 동시 인코딩(Vivar-Lazo&Fetsch 2025). F26(행동적 보정만)을 넘어 *내부* 메타인지 변수를 국소화·인과검증.
🔬 무엇인가 (4관문 → MIXED)
같은 정답·근거 신뢰도(강/약/모순)만 바꾼 문항서 정답축을 엔트로피·마진 제거 후 디코딩, 축 주입→얼버무림 변화(답 보존) 측정. 3모델. 읽기 확인: resid AUC 0.785/0.937/0.831(기저 0.68~0.79·쌍둥이 0.47~0.60·순열 p=0.0099), 정답과 상관 0.63~0.72지만 엔트로피와 0.05~0.13=진짜 잔차. 인과 실패: axis_beats_twin=False 3/3(쌍둥이가 얼버무림 더 흔듦). 정답축≠말로 표현한 확신축(r≈0).
출처: b3_confidence.json (Part VII · 발견 61 · B3 · Vivar-Lazo 2025 · 4관문 · MIXED)
발견 62 · 비선형 혼합선택성 (B5 · Nikitin 2024)
🔢
LLM은 웬만하면 덧셈식 — 순수 XOR은 못 풀고, 조합 전용 회로는 딱 한 곳에서만
💡
쉽게 말하면
뇌는 과제가 꼭 필요할 때만(A와 B의 *조합*으로만 답이 갈리는 XOR) 비선형 "조합 코드"를 쓴다(Nikitin 2024). LLM은? 웬만하면 "A효과+B효과"를 그냥 더해서 처리한다(덧셈식). 순수 XOR 문제는 아예 못 풀고(정확도 0.4~0.5=우연), 조합 전용 회로가 인과적으로 필요한 경우는 2모델×3과제 중 딱 한 곳(gemma2 관계×부정)에서만 나왔다. 즉 뇌의 "필요할 때 조합 코드" 습관을 LLM은 거의 안 쓴다.
🎯 왜 중요한가
혼합선택성(Rigotti 2013·Nikitin 2024)은 조합이 꼭 필요한 과제서만 나타난다. F31(약한 category×frame)·F40(선형 일반화)을 넘어 *행동상 필요한 비선형 조합*을 검정.
🔬 무엇인가 (게이트 → MIXED, 대부분 덧셈)
두 요인 교차과제(순수 XOR·감정×신뢰·관계×부정)서 주효과 vs 상호작용 분산 분해, 상호작용-전용 부분공간 제거→XOR쪽만 선택적 손상인지. 순수 XOR 두 모델 다 못함(0.40~0.50). 자연과제 대체로 덧셈(상호작용 보여도 덧셈 조건도 비슷·제거 비선택적). 유일한 깨끗한 경우: gemma2 rel_neg 인과-선택적(XOR쪽 −0.56·덧셈 보존). → 조합코드 드물고 모델의존.
주효과 vs 상호작용 분산 + XOR vs 덧셈 인과-선택성, 학습 vs 쌍둥이. 출처 b5_mixed_selectivity.json
출처: b5_mixed_selectivity.json (Part VII · 발견 62 · B5 · Nikitin 2024 · 게이트 · MIXED·대부분 덧셈)
발견 63 · 임계 섭동 전파 (B6 · Maschke 2024) · 없음/NULL
🎆
LLM은 임계상태가 아니다 — 섭동이 사그라드는 아임계, 무작위망보다도 덜 임계적
💡
쉽게 말하면
뇌는 성냥 하나로 산불이 적당히 번지듯(임계상태, 가지비 σ≈1) 작동한다지만, LLM은 성냥을 그어도 불이 곧 꺼지는(아임계, σ 0.80~0.90) 쪽이다. 게다가 학습 안 한 무작위망·같은 크기 가우시안망(σ≈1.0)이 오히려 뇌의 "적당히 번짐"에 더 가깝고, 학습은 모델을 임계에서 멀어지게 했다. "임계처럼 보이는" 부분은 가우시안도 가진 잔차-스케일 산물이지 학습된 동역학이 아니다 → 뇌 임계성은 LLM이 공유 안 함.
🎯 왜 중요한가
대뇌 임계성=최대 정보처리·복잡도(Maschke 2024). F31(정적 고유값)·F46(학습 창발·탐색적)을 넘어 *섭동 전파·동역학 임계성* 첫 측정.
🔬 무엇인가 (엄격 통제 → NULL)
로그간격 섭동 주입·전파, 가지비 σ·아발란치 지수·모양붕괴 측정. 결정적 통제: 같은 너비·잔차스케일 가우시안 무작위망+쌍둥이. σ_event 학습 0.80~0.90 < 1(아임계), 쌍둥이 ≈1.00·가우시안 ≈1.00~1.02보다 낮음. 지수도 가우시안 불일치(2.6~5.1 vs 5.4~12.4)·모양붕괴 불량. → 임계 아님, "임계처럼"은 아키텍처 산물.
아발란치 분포·가지비·모양붕괴, 학습 vs 쌍둥이 vs 가우시안. 출처 b6_criticality.json
출처: b6_criticality.json (Part VII · 발견 63 · B6 · Maschke 2024 · Gaussian 통제 · NULL)
발견 64 · 임계기 가소성 (C1 · Nardou 2023)
⏰
진짜 '결정적 시기'는 없다 — 성숙 모델도 새 규칙 배운다, 단 굳은 회로가 취약하고 재개방 실패
💡
쉽게 말하면
오래 학습한 모델도 새 규칙 자체는 젊은 모델만큼 배운다. "느리게 배운다"는 대체로 착시 — 가중치가 커서 같은 보폭이 상대적으로 작아 보일 뿐(나이-속도 상관이 가중치크기-속도 상관과 동일 −0.80). 진짜 차이는 배우는 방식: 성숙 모델은 기존 회로를 살짝만 바꿔 재사용하지만, 그 작은 변화가 원래 알던 걸 훨씬 크게 망가뜨린다(치명적 망각 ~6배). 노이즈·LR을 올려 "시기를 다시 연다"는 시도는 실패. → '결정적 시기'라기보다 '굳은 회로의 취약성'.
🎯 왜 중요한가
뇌 결정적 시기: 회로 굳으면 새 학습 유연성↓·개입으로 재개방(Nardou 2023). F46(*언제* 창발 관찰)을 넘어 프로그램 첫 *발달 개입*.
🔬 무엇인가 (학습연구 → MIXED)
pythia-160m 체크포인트 4나이(step0쌍둥이·1000·16000·143000)를 동일 새 규칙에 동일예산 이어학습, 표본효율·간섭·회로재사용·개입회복 측정(15/15 런). ① 모든 나이 규칙 습득(1.0). ② 표본효율 저하는 가중치스케일과 분리불가(ρ=−0.80, 쌍둥이도 안 느림)=통제후 NULL. ③ 진짜 효과=간섭(자연문 망각 dNLL +4.4→+27.5 ~6배)·회로재사용(ΔW 0.074→0.009 ~8배 작음, 표현드리프트 최대 CKA 0.51→0.24). ④ 재개방 실패(노이즈≈기저·high-LR 악화). shuffled null 우연.
출처: c1_critical_period.json (Part VII · 발견 64 · C1 · Nardou 2023 · 학습연구 · MIXED)
발견 65 · 리플레이 통합 (C2 · Jensen 2024)
🔁
리플레이(복습)는 망각을 막지만 — 엔그램을 '옮기지'는 않는다(태어날 때부터 분산)
💡
쉽게 말하면
뇌는 잠자며 해마가 낮의 경험을 리플레이해 (1) 새 기억이 옛 기억 덮어쓰기를 막고 (2) 저장 위치를 좁은 해마→넓은 피질로 이사시킨다. LLM을 사실로 순차 학습시킬 때 — 리플레이(복습)는 확실히 망각을 막는다(같은 계산량의 무관한 복습보다 훨씬·틀린 값 복습은 소용없음=진짜 옛 사실 재노출이 핵심). 그러나 기억이 "좁은 방→넓은 창고로 이사"하는 일은 안 일어났다 — 이 LLM은 사실이 처음부터 여러 층에 분산 저장돼(F1/F52) 옮길 좁은 방이 없어서, 리플레이는 그걸 지켜만 준다.
🎯 왜 중요한가
해마 리플레이=시스템 공고화(망각 방지 + 엔그램 이사; Jensen 2024). F52(끝점 사실 국소화)·F46(일반 사전학습)을 넘어 프로그램 첫 *순차학습·공고화* 검정.
🔬 무엇인가 (학습연구 → MIXED)
작은 GPT를 사실 5에피소드 순차학습, 리플레이 6조건(없음·계산량맞춤 복습·균일·우선·생성·가짜)·ROME 인과추적으로 엔그램 분산도 추적. 망각: 없음 0.92·계산량맞춤 0.60·리플레이 0.00·가짜 0.98 → 리플레이가 매칭복습보다 +0.60 더 보호, 가짜는 못 지킴. 단 엔그램은 처음부터 분산(PR 6.4/15·최고칸 18%), 리플레이 후 ΔPR≈0=보존이지 이사 아님. 정직: 순진한 PR비교는 망각 아티팩트로 거짓 이사 착시. 쌍둥이 인과≈0=학습.
조건별 망각곡선 + 엔그램 분산도(이사 여부), 2씨앗. 출처 c2_replay.json
출처: c2_replay.json (Part VII · 발견 65 · C2 · Jensen 2024 · 학습연구 · MIXED)
신규 카탈로그 13종(A1–C2, 발견 53–65): 공유 3 · 부분 9 · 없음 1 — 문헌 발굴 가설을 전부 게이트로 검증.
일관된 교훈 둘: 인과·메커니즘 검정(자기복구56·예측오차55·결합59)일수록 뇌를 닮고, 표상 유사도(경계53·통신54·SAE60)나 동역학(임계63)일수록 구조/표면 착시다. 그리고 untrained 쌍둥이 게이트가 13개 전부에서 '학습된 계산'과 '아키텍처 산물'을 갈랐다 — 이번엔 소형 학습연구(64 임계기·65 리플레이)에서 step0 쌍둥이가 그 역할을 했다.
Part VIII · 교차모델 인과 + 게이트 하드닝
발견 66 · 교차모델 인과 보편성 (VIII-4 · Huh 2024 Platonic)
🔗
한 모델의 '거부' 방향을 다른 모델로 옮겨 심어도 — 기하 그림자만 희미하게 남고 인과 효과는 0 (Platonic 아님)
💡
쉽게 말하면
"서로 다른 AI가 결국 같은 내부 표현으로 수렴한다"(Platonic 가설)가 맞다면, A모델이 배운 '요청 거부' 스위치 방향을 선형 변환으로 B모델에 옮겨 심었을 때 B의 거부 행동을 켜고 끌 수 있어야 한다. 실제로 해보니 — 옮긴 방향은 B의 진짜 거부 방향과 살짝만 닮고(코사인 0.19–0.30, 그것도 같은 크기의 Qwen·Gemma-2 쌍만), 인과적으로는 아무 일도 안 일어난다(6쌍 전부 무작위 대조와 동급 = 0). B의 원래 거부 방향은 완벽히 작동하는데 말이다. 결론: 거부 방향은 학습된 것이지만 모델마다 고유해서, 단순 선형 지도로는 인과가 안 옮겨간다. '기하가 조금 닮음' ≠ '메커니즘이 같음'.
🎯 왜 중요한가
프로그램 최초의 인과 교차모델 보편성 검정(기존 stitching은 전부 기하만). 철회된 F4('가문무관·Platonic')를 긍정문으로 정밀화: 두 모델이 개념축의 희미한 선형 기하 정렬을 공유해도 전이 가능한 인과 메커니즘은 없을 수 있다.
🔬 무엇인가 (신규 스크립트 → MIXED·부정 우세)
A의 rank-1 거부축(F51)을 일반 자극에서 맞춘 Ridge 선형사상으로 B 공간에 이식 → B에서 ablate/add해 거부율 변화 측정. 대조 4종: B-native(천장)·random-map(바닥)·twin-map(학습게이트)·unmapped(바닥). 3모델(qwen2.5·gemma2·qwen3)·6방향쌍. 기하: 2/6쌍만 유의(qwen2.5↔gemma2 cos 0.19–0.30, twin-map≈0=학습). 인과: 0/6쌍이 무작위 바닥 초과 실패(mapped 효과 0.0, native는 0.86–1.0 정상). 정직: 스크립트 자동 note가 자기 수치와 모순되는 과장('partway to native')이라 정본에 전파 안 함. 한계: 단일 축(거부)·단일 선형사상(비선형 미검)·n=3.
기하 정렬(cos) vs 인과 효과 — mapped/random/native/twin 대조, 6방향쌍. 출처 viii4_mechanistic_universality.json
출처: viii4_mechanistic_universality.json (Part VIII · 발견 66 · VIII-4 · Huh 2024 · 4대조+쌍둥이게이트 · MIXED-부정)
발견 67 · ICL 능력의 scale-단조 경계 (VIII-2 · F24/C3)
📈
"맥락학습 능력은 모델이 커질수록 는다"는 4개 규칙 중 0개에서만 재현 — 대부분 이미 최소모델서 포화
💡
쉽게 말하면
이 프로그램에서 가장 공격받기 쉬운 주장이 "능력은 맥락 속 규칙 학습(ICL)에 있고, 모델이 커질수록 그 능력이 단조롭게 는다"였다. 4개의 서로 다른 임의규칙(라벨매핑 2종·모듈러 산수·암호 치환)으로 0.5B~14B 사다리에서 재검하니 — "커질수록 는다"는 단 한 규칙도 통과 못 했다. 학습가능한 규칙은 이미 가장 작은 0.5B에서 포화(천장)라 더 커져도 안 늘고, 모듈러 산수는 14B도 못 한다(능력 자체 없음). 살아남은 핵심: "그 능력은 학습된 것(무작위 쌍둥이는 못 함)"은 모든 학습가능 규칙에서 견고. 즉 '학습됨'은 맞고 '커질수록 단조'는 원래 한 규칙이 우연히 난이도 sweet-spot에 있었던 착시였다.
🎯 왜 중요한가
프로그램 최다노출 주장(C3)을 정면 재검. 정직하게 절반(단조성)을 스스로 강등하고 절반(학습됨)을 4규칙으로 강화. 노이즈-인지 쌍둥이 게이트(고정 0.06 threshold가 노이즈 바닥 0.14 아래=Fable 감사 S6 이슈 해소).
4규칙 × 크기사다리 ICL-이득(trained vs 쌍둥이), ρ/p 표기. 출처 viii2_icl_families.json
출처: viii2_icl_families.json (Part VIII · 발견 67 · VIII-2 · F24/C3 · 노이즈-인지 게이트 · MIXED-경계)
발견 68 · 3번째 가문(Llama-3)서 taxonomy 복제 (VIII-5 · n=2 caveat 해소)
🧬
학습 vs 아키텍처 분류가 Llama-3.1(base+instruct)서도 그대로 — 교차가문 n=2 한계 닫힘
💡
쉽게 말하면
지금까지 모든 "가문 간" 주장은 Qwen·Gemma 딱 2가문(n=2)에 기댔다. 3번째 독립 가문 Llama-3.1-8B(base·instruct 둘 다)로 같은 배터리를 돌리니 — 학습되는 것(범주 방향코드 AUC 0.99 vs 쌍둥이 0.43·rank-1·로그정규 활성)과 아키텍처인 것(커넥톰 모듈성 Q 0.11 = 피질 0.3–0.5 위반·dense밴드)이 똑같이 재현됐다. base≈instruct라 지시학습이 이 구조를 만든 게 아님(F26 3가문 확장). 단, 이건 "각 모델 안에서 같은 패턴이 반복"이지 "모델들이 한 표현으로 수렴"(Platonic)이 아님 — F66이 인과 보편성 부정했듯.
🎯 왜 중요한가
거의 모든 교차가문 결론의 n=2 한계를 3가문으로 닫음(C6 강화). 피질위반(낮은 Q)이 3번째 독립 계보서도 확인 = 배선지리 위반의 보편성.
🔬 무엇인가 (SHARED-복제)
Llama-3.1-8B instruct/base + 아키텍처 동일 쌍둥이. 6지표 전부 복제: category AUC 0.995/0.994 vs twin 0.43·rank-1 0.996·N3 로그정규 LLR 3.45 vs 0.06(학습); 커넥톰 Q 0.111/0.118(twin 0.167보다 낮음=학습이 Q 감소, F2/F9·VIII-3 정합)·피질밴드 위반=아키텍처. NousResearch=meta 3.1 동일가중치 미러(caveat 표기).
출처: viii5_arch_diversity.json (Part VIII · 발견 68 · VIII-5 Part1 · Llama-3.1 · SHARED-복제)
발견 69 · MoE 뇌 검정 (VIII-5 · 전문가 모듈성)
🧩
전문가(MoE)를 명시적으로 나눠도 커넥톰은 피질처럼 안 됨 — 그러나 전문가는 dense 모듈보다 의미범주와 더 잘 정렬(학습됨)
💡
쉽게 말하면
보통 LLM(dense)은 뇌보다 덜 모듈화돼 있고(발견 2), 모듈이 의미와도 안 맞는다(발견 9). 그럼 전문가를 명시적으로 128개로 쪼갠 MoE 모델이면 뇌처럼 될까? 검증: ① 아니다 — 실제 기능적 커넥톰 모듈성 Q는 0.13으로 여전히 피질(0.3–0.5)에 한참 못 미치고 쌍둥이와 똑같다. 라우터 구조 자체는 모듈처럼 보이지만 그건 설계상 당연(무작위 라우터 쌍둥이가 오히려 0.48로 더 모듈적)이고 학습은 그걸 줄인다. ② 그러나 전문가가 어떤 의미범주를 담당하는지는 학습됐다 — 전문가↔범주 정렬 NMI 0.19(무작위 0.07)·범주 해독 61%(우연 10%), dense 모듈(0.05)보다 뚜렷. 즉 "모듈 크기"는 여전히 뇌와 다르지만 "모듈=의미"는 dense보다 부분적으로 더 뇌스럽다.
🎯 왜 중요한가
프로그램 첫 아키텍처-개입 뇌 검정. dense가 뭉뚱그린 두 축(모듈 크기 B2 vs 모듈=의미 F9)을 MoE가 갈라준다 — 전자는 아키텍처가 바꿔도 여전히 위반, 후자는 아키텍처에 민감.
Llama-3(F68) taxonomy 복제 + MoE(F69) 전문가 Q·전문가↔범주 NMI/probe, trained vs 무작위라우터 쌍둥이. 출처 viii5_arch_diversity.json
출처: viii5_arch_diversity.json (Part VIII · 발견 69 · VIII-5 Part2 · MoE 뇌검정 · MIXED)
게이트 하드닝(VIII-1): 학습 vs 아키텍처 판별자인 untrained 쌍둥이를 3-seed 앙상블 + Gemma-4 full-depth 쌍둥이로 강건화 — 15/15(지표×모델) 최악-seed 생존.
지금까지 쌍둥이는 단일 draw(seed 0)였다. seeds {0,1,2} 앙상블로 5개 핵심 지표를 재검정한 결과, 학습지표(로그정규·범주AUC·DDC rank-1)는 매 seed 쌍둥이 초과, 아키텍처 지표(고유값 α·저랭크 통신)는 매 seed 쌍둥이와 동급 — 전부 최악 seed에서 생존(쌍둥이 sd 0.001–0.013, 단일 seed가 운이 아니었음). 정직한 정련 둘: (i) Gemma-4 DDC rank-1 마진은 얇음(+0.06), (ii) α의 'cortical 1.0에서 더 멀다(반뇌)'는 fitting-window 의존(gemma2는 좁은 rank-1..50 window서 분리 뒤집힘) → 견고한 주장은 "α는 학습되고 더 가파르다"지 "뇌에서 고정 거리만큼 멀다"가 아님. (발견 31·49·63 강화)
Part IX · 비전-언어 피벗 (새 챕터)
텍스트 전용이던 프로그램이 시각 피질을 연다 — 창립 비유(FFA 얼굴·PPA 장소·VWFA 단어·retinotopy)를 이제 비유가 아니라 직접 검정.
Qwen2.5-VL-7B(비전타워 32블록 ViT)로 첫 실험. 이 모델의 LM이 우리 텍스트 주모델 qwen2.5-7b와 같은 가문이라, 나중 교차모달("이미지-개 ≈ 텍스트-개?")이 한 모델 안 질문이 된다.
발견 70 · VLM 시각 선택성·retinotopy (Part IX MVP-1)
👁️
VLM 비전타워의 시각 범주 선택성은 대부분 아키텍처 — 무작위 ViT도 이미 얼굴/장소/단어를 분리한다 (순진한 "학습된 FFA"는 미지지)
💡
쉽게 말하면
뇌엔 얼굴만 반응하는 FFA, 장소의 PPA, 글자의 VWFA가 있다. VLM의 눈(ViT)에도 그런 "학습된 얼굴 뉴런"이 생길까? 검증하니 — 놀랍게도 무작위로 초기화한 ViT 쌍둥이가 이미 얼굴 0.84·장소 0.82·단어 0.99 정확도로 범주를 분리한다(우연은 0.5). 즉 시각 범주 검출은 상당부분 아키텍처(무작위 ViT 특징+저수준 이미지통계). 학습은 사진류(얼굴/장소/몸/사물)만 조금 더 선명하게(+0.15) 하고, 렌더된 단어/숫자엔 거의 기여 0(+0.008, 고대비 글자는 원래 쉬움). 텍스트와 정반대다 — 텍스트 범주는 쌍둥이가 못 해서(≈우연) 명백히 학습이었는데, 시각은 아키텍처가 대부분 준다. 진짜 FFA인지는 인과 절제(MVP-2)가 판정한다.
🎯 왜 중요한가
프로그램 첫 새 모달리티 결과. untrained 쌍둥이 게이트가 즉시 값을 한다 — 그럴듯한 "VLM이 얼굴뉴런을 학습" 주장이 사실은 무작위 ViT가 이미 하는 것임을 드러낸다(텍스트와 대비=정직한 비자명 소득).
🔬 무엇인가 (fLoc 1000장·10범주·n_perm=1000 · MIXED)
①선택성 best-unit AUC: 사진류 trained 0.97–0.995 vs twin 0.80–0.85(gap +0.14~0.17), 렌더텍스트 1.0 vs 0.99(gap +0.008). 전부 twin≈우연 아님 → 검출=아키텍처. ②retinotopy 패치 Moran's I trained 0.239 vs twin 0.808(null≈0; TopoLM 0.96/바닥0.11, 텍스트 F8=0.012)=SHARED-아키텍처, F8 부호반전(단 위치격자 산물·학습이 감소). ③범주 채널위상 |I| 0.024/0.007 ≪ 0.11 = VIOLATED(기능위상 없음, F8/F9 일치). 정직: best-unit AUC는 트윈 과대평가·검출≠국소화 → 진짜 FFA는 Dobs 인과절제(MVP-2).
범주별 best-unit AUC(trained vs 쌍둥이)·per-block retinotopy·채널위상 vs 바닥/뇌. 출처 ix_mvp1_summary.json
출처: ix_mvp1_summary.json · localize/topography_vision_qwen2.5-vl-7b (Part IX · 발견 70 · MVP-1 · Qwen2.5-VL-7B · twin게이트 · MIXED)
발견 71 · 인과 절제 = 학습된 FFA 없음 (Part IX MVP-2 · 결정적 검정)
🔬
얼굴뉴런을 절제해도 학습 모델의 얼굴 판독은 멀쩡 — 국소적인 건 오히려 무작위 트윈이고, 학습은 코드를 분산시킨다 (진짜 FFA 아님)
💡
쉽게 말하면
발견 70이 남긴 질문: VLM의 얼굴 선택성이 진짜 "얼굴 전용 모듈"(FFA)인가? 결정적 검정 = 뇌 병변 실험처럼 상위 얼굴뉴런을 제거하고 얼굴 판독이 무너지나 본다(Dobs 2022 이중해리). 결과 — 학습 모델은 상위 얼굴뉴런 64개를 절제해도 얼굴 판독 하락 0.000(멀쩡). 반대로 무작위 초기화 트윈은 같은 절제로 0.278 붕괴. 즉 "얼굴이 소수 뉴런에 몰린 국소 코드"는 아키텍처(트윈)의 성질이고, 학습은 오히려 그걸 여러 뉴런에 흩뿌려 병변에 강건하게 만든다. 20% 절제에서 약한 해리가 보이지만 트윈이 더 크게 해리(0.29 vs 0.05)=역시 아키텍처. → 학습된 FFA 없음. 텍스트의 분산 결론(F1)이 시각에서 인과적으로 확인·강화됐다. 커넥톰도 피질보다 덜 모듈적(Q 0.15 ≪ 뇌 0.3–0.5).
🎯 왜 중요한가
프로그램 창립 비유(FFA/PPA 국소화)의 결정적 인과 판정. 깨끗한 비자명 negative — VLM은 얼굴 *모듈*을 학습하지 않는다; 학습은 시각 범주코드를 더 분산·병변강건하게 만들고, 유일한 국소 인과구조는 무작위 아키텍처가 이미 가진 것. 뇌의 FFA 국소화는 공유가 아닌 차이, 공유 원리는 분산 방향코딩(DDC).
🔬 무엇인가 (Dobs 이중해리 + ViT 커넥톰 · MIXED)
A. 절제: k64 얼굴절제→얼굴 판독 trained 0.000 vs twin 0.278; k256 crossover trained 0.052/0.003 vs twin 0.292/0.009=아키텍처(twin 더 큼). random-k null·twin 게이트. z값(5천만)은 degenerate-null 아티팩트라 제외. B. 커넥톰: Q trained 0.149·twin 0.107=둘 다 dense밴드·피질 0.3–0.5 위반(F2 시각확인); 모듈↔범주 NMI 0.15(트윈 0.16 동급=아키텍처, dense F9 0.05보단 높음). 정직: near-readout 부분효과·단일 probe·all-instruct.
출처: ix_mvp2_summary.json · connectome_qwen2.5-vl-7b (Part IX · 발견 71 · MVP-2 · Dobs 이중해리 · twin게이트 · MIXED)
발견 72 · 교차모달 개념 허브 (Part IX MVP-3 · DDC 핵심)
🔗
이미지-"개"와 단어-"개"가 LM 공간에서 같은 방향 — 게다가 이미지에서 뽑은 방향이 텍스트 생성을 인과적으로 조종한다 (모달불변 개념 허브)
💡
쉽게 말하면
DDC의 핵심 주장은 "의미 = 하나의 방향"이다. 그럼 개 사진의 방향과 "개"라는 단어의 방향이 같을까? Qwen2.5-VL의 언어부가 우리 텍스트 주모델과 같은 가문이라 한 모델 안에서 물을 수 있다. 결과 — 28번째 층에서 이미지방향과 단어방향의 코사인 0.51(우연 0.001), 교차모달 해독 57–64%(내부 83–90%보다 낮음 = 뇌의 교차모달 패턴 그대로, Shinkareva 2012). 결정적으로: 개 사진에서 뽑은 방향을 중립 텍스트에 더하면 "개" 확률이 +0.561 오른다(무작위·트윈은 ~0, 40개념 전부) — 심지어 단어 자기 방향(+0.355)보다 더 강하게 텍스트를 조종한다. 즉 의미의 방향이 이미지↔텍스트 경계를 넘어 공유되고 인과적으로 작동한다. F70/F71(검출·국소화=아키텍처)과 대비되는, 시각에서 학습된 공유 원리.
🎯 왜 중요한가
시각 챕터의 최강 positive이자 프로그램 핵심(DDC)의 모달 확장. 창립 비유(국소화)는 실패(F70/71)했지만, 진짜 주장 "의미=분산 방향"은 모달 경계를 넘어·인과적으로 성립. F5/F34 언어불변 허브를 모달불변 허브로.
🔬 무엇인가 (40개념×10이미지 · 한 모델 안 · SHARED-partial)
이미지 개념벡터=LM 잔차 image-token span mean-pool. ①방향 cos 층28 0.507(순열null 0.001·max층 p=0·twin 0.0025) ②교차 decoding txt→img 0.57·img→txt 0.64 vs 내부 0.83/0.90·twin 0.008(Shinkareva 패턴) ③RSA ρ 0.635(twin −0.11) ④인과 스티어링 이미지방향 Δ+0.561 vs random 0.002·cross-concept 0.013·twin 0.003·텍스트자기 0.355(40/40 양수). 정직(S1): 교차모달 융합은 본질적 학습→트윈≈0 부분보장이라 결정 게이트는 순열null 초과+인과(둘 다 압도적). caveat: image-span 풀링·all-instruct·단일모델·ImageNet(THINGS 암호화).
층별 이미지↔텍스트 방향정렬·교차모달 decoding·RSA·인과 스티어링(이미지 vs 무작위/트윈). 출처 ix_mvp3_summary.json
출처: ix_mvp3_summary.json · ix_mvp3_analysis/steering (Part IX · 발견 72 · MVP-3 · 교차모달 DDC · 4관문 · SHARED-partial)
뇌의 시각 경로는 V1(선·색·방향)→V4→IT(사물 정체)로 갈수록 추상화된다. VLM의 눈(ViT)도 그럴까? 기존 스캔(33 깊이)만 재분석하니 — 저수준(색·격자·텍스처)은 0번째 층부터 완전히 읽힌다(무작위 트윈도 동일=아키텍처). 반면 고수준 정체(얼굴/몸/장소/사물 구별)는 초기엔 거의 없다가 28층에서 정점으로 서서히 구성된다(상승 상관 +0.98). 결정적으로 무작위 트윈은 이 후기 고수준 층을 못 만든다(정체 정확도 0.387≈우연, 오히려 깊이로 하락) → 저→고 위계는 학습된다(F33 정합). MVP-1에서 트윈 AUC가 높아 보였던 건 4만 뉴런 중 운 좋은 하나였고, 공정한 집단 프로브론 트윈이 우연 수준. 즉 아키텍처는 저수준·검출을 주지만, 고수준 정체의 깊은 위계적 구성은 학습이다.
🎯 왜 중요한가
모델 내부에서 아키텍처가 주는 것(저수준·retinotopy·검출)과 학습이 만드는 것(고수준 위계·모달불변 방향)을 가른다. F73 자체는 실피질을 측정하지 않은 내부 구배이며, 바로 다음 F74가 실제 BOLD5000 피질 예측을 별도로 검정한다.
🔬 무엇인가 (33 깊이 · 15-shot 프로브 · SHARED-learned)
저수준(색·격자·scrambled): trained onset L0·max 1.0, twin L0·0.99=아키텍처. 고수준 정체(4-way): trained onset L7·peak L28·상승ρ +0.983(p=2e-24)·max 1.0, twin peak L1·max 0.387≈우연·ρ −0.72. peak-depth gap +26. 트윈게이트 late-early trained +0.393 vs twin −0.006. 정직: 단일타워·RSA crossover 미확정·F73의 깊이구배를 실제 피질 위계와 동일시하면 안 됨(F74의 직접 BV2 검정은 NULL).
깊이별 저수준 vs 고수준 정체 decodability(trained vs 무작위 트윈)·peak-depth 구배. 출처 ix_mvp4_summary.json
출처: ix_mvp4_summary.json (Part IX · 발견 73 · MVP-4 · 복측경로 깊이구배 · twin게이트 · SHARED-learned)
발견 74 · 실제 시각피질 직접 정렬 (BOLD5000 · 두 계열 · hardening v3)
🧠
학습된 Qwen·CLIP 시각 표현이 실제 사람 시각피질을 random twin보다 잘 예측한다 — 그러나 모델 깊이↔피질 위계 대응은 NULL
💡
쉽게 말하면
F73까지는 “VLM 안의 깊이 사다리가 V1→IT처럼 보인다”는 모델 내부 결과였다. 이번에는 사람 4명이 512개 이미지를 볼 때 측정한 진짜 fMRI를 맞혀 보았다. Qwen2.5-VL과 독립 계열 CLIP 모두 학습 모델이 무작위 가중치 쌍둥이보다 초기·고차 시각피질을 훨씬 잘 예측했다. 즉 뇌를 예측하는 정보는 ViT 구조가 거저 준 것만이 아니라 학습으로 생겼다. 하지만 “초기 피질은 얕은 층, 고차 피질은 깊은 층”이라는 세부 대응은 두 계열에서 견고하지 않아 기각(NULL)했다.
🎯 왜 중요한가
시각 챕터의 가장 큰 빈칸이던 실측 피질을 닫는다. 단순한 모델 내부 비유가 아니라, 두 독립 비전 계열이 실제 시각피질 반응을 예측하며 그 이득이 학습 산물임을 twin 게이트로 확인했다. 동시에 F73의 깊이구배를 곧바로 뇌 층위 대응으로 확대하지 않는 정직한 경계도 세웠다.
Part IX 아크 완성(F70–F74): 검출·국소화·retinotopy = 주로 아키텍처 · 교차모달 방향·고수준 표현·실측 피질 예측 이득 = 학습.
창립 비유(FFA/PPA/retinotopy 국소화)는 차이로 남는다(F70/F71). 학습은 ① 고수준 정체를 깊이로 구성하고(F73) ② 모달불변 개념 방향을 만들며(F72) ③ 두 계열에서 실제 시각피질을 random twin보다 잘 예측하게 한다(F74). 단 F73의 모델 깊이 사다리 = 사람 피질 층위라는 강한 대응은 F74에서 NULL — 공유되는 것은 피질 예측 정보이지 일대일 해부 지도는 아니다.
Part X · 최신 문헌 대조 (Anthropic·빅테크 블로그 재확인·확장)
2024 하반기–2026 Anthropic·빅테크 해석가능성/뇌정렬 연구를 실측 스캔해 F1–F74에 매핑했다.
바깥에서 우리 척추가 대거 독립 재확인됐다 — 트윈-게이트(무작위 초기화 모델도 뇌정렬을 보이고 학습 증분은 학습데이터를 추적, Guo 2026)·read≠write(활성 크기≠스티어링 효과, 배선이 결정, Anthropic 2026-05)·SAE 비완전(absorption)·세계모형·고유값 스펙트럼·Platonic 하향. 진짜 압박점은 딱 두 개였고, 둘 다 인과 게이트로 검증했다. 출처: _literature/{anthropic,bigtech}_reconfirm_2026-07.md.
발견 75 · 행동 방향에선 READ가 신뢰 편집기 (F25 범위 하향)
✍️
거부(refusal) 방향에선 READ(평균차) 축이 3계통 전부 신뢰성 있게 인과적이고 WRITE는 불안정 — "편집은 WRITE 축" 헤드라인은 분산 명사개념 한정이었다
💡
쉽게 말하면
Anthropic의 최근 연구(persona vectors·introspection)는 read(평균차) 벡터로도 모델 행동을 조종한다. 이건 우리 발견 25의 "편집은 write 축을 써라"와 부딪힌다. 그래서 행동 방향(거부)에서 read vs write를 인과적으로 직접 재대결했다. 결과 — 거부에서 READ Δ: qwen +0.97·gemma +0.89·llama +0.86 (전부 p<0.001), 반면 WRITE는 llama에서 아예 무효(+0.08, p=0.25). 즉 행동 방향에선 오히려 read가 더 믿을 만한 편집기다. 두 축이 거의 직교(cos 0.10~0.12)라는 기하는 그대로지만, 어느 축으로 편집하느냐는 대상이 무엇이냐에 달렸다 — 분산 명사개념은 WRITE(발견 25), 행동은 READ(발견 51 거부와 정합).
🎯 왜 중요한가
프로그램의 가장 노출된 스티어링 주장을 외부 압박에 맞서 정직한 방향으로 스스로 교정한다. 최신 문헌이 "read로 행동이 조종된다"고 한 게 맞았고, 우리 발견 25는 틀린 게 아니라 명사개념에만 맞는 규칙이었다. 화해는 "regime split"이다.
모델 간 개념 전이는 표상적으로는 수렴(선형 이식 재현)하지만 인과 이식은 견고하지 않다 — 거부 축은 0/6 인과, F66이 뒤집히지 않았다
💡
쉽게 말하면
외부 연구는 "선형 사상으로 개념 표상이 모델 간 전이된다"(Platonic류)고 한다. 우리 발견 66은 "그 방향을 옮겨도 상대 모델의 행동을 바꾸지 못한다"였다. 둘은 "옮긴 방향이 실제로 작동하나?"로만 갈린다. 그래서 선형 사상을 재현한 뒤 표상 전이(그들 지표)와 인과 전이(우리 게이트)를 둘 다 쟀다. 표상 전이는 재현됐다(cos 최대 0.997·11/54 통과). 그러나 인과는 무작위 사상 널을 제대로(30회) 세우자 붕괴 — 통과가 6/54→4/54, 한 방향쌍(llama→gemma)만 남고 다계통 실패. 거부 축은 두 실행 모두 0/6 인과. → 옮겨지는 건 기하(읽기)이지 메커니즘(작동)이 아니다.
🎯 왜 중요한가
우리 프로그램이 만들어진 이유를 정확히 보여준다: 표상 정렬처럼 보이는 것이 인과 게이트를 대면 녹아내린다. 선형 사상은 상대 모델의 독자(reader)이지 작동자(actuator)가 아니다 — 발견 25/75의 read vs write 구분이 모델 간에서도 반복된다.
🔬 무엇인가 (3계통 6쌍×9개념 · 무작위사상 널 k=5→30 하드닝 · MIXED)
표상 수렴 11/54(S15 재현). 인과는 하드닝(k_randmap 5→30)에서 6/54→4/54, 통과쌍 3→1, multi_lineage=False. 엄격 재집계 시 일관 셀 1개, 나머지는 overshoot(native의 124%)·직교(cos 0.086)·표상실패. native 인과는 gemma2/qwen 정상(타당성 통과), llama native 불안정. k=5→30 붕괴는 H8의 저검정력 널 교훈이 재발한 것. "Platonic"·"cross-family" 긍정 주장 없음(F4 철회 유지).
