[한글더빙] ‘ChatGPT는 지능이 아닙니다’ 강화학습 창시자·튜링상 수상자 리처드 서튼

← 2026-04-06 목록으로

핵심 요약

현재의 대규모 언어 모델(LLM)은 실세계를 이해하는 ‘월드 모델’ 없이 인간의 언어를 흉내 내는 수준에 머물러 있으며, 스스로 목표를 설정하고 환경과 상호작용하며 학습하는 능력이 결여된 ‘막다른 골목’에 처해 있습니다.
지능의 본질은 계산을 통해 목표를 달성하는 능력에 있으며, 인간이 주입한 지식이나 규칙에 의존하는 방식보다 연산 능력을 극대화하여 스스로 시행착오를 겪으며 학습하는 ‘강화학습(RL)’ 기반의 범용 방법론이 장기적으로 항상 승리합니다.
인류는 DNA 기반의 ‘복제자’ 시대에서 스스로 지능을 설계하고 수정하는 ‘디지털 지능’ 시대로 이행하는 우주적 전환점에 서 있으며, 이 과정에서 외부 데이터에 의존하지 않는 순수한 경험 기반 학습만이 지능의 한계를 돌파할 수 있는 유일한 길입니다.

주요 내용

1. LLM의 한계와 강화학습(RL)의 당위성

언어 모방 vs 세계 이해: 얀 르쿤과 유대 펄의 견해를 빌려, 현재 AI는 텍스트 통계에만 의존할 뿐 인과 관계나 물리 법칙을 이해하지 못한다고 비판합니다.
목표의 부재: 리처드 서튼은 지능을 ‘목표를 달성하는 계산적 부분’으로 정의하며, LLM은 다음 토큰을 예측할 뿐 세상을 변화시키려는 실질적인 목표가 없음을 지적합니다.
학습의 원천: 진정한 학습은 누군가 정답을 알려주는 ‘지도 학습’이 아니라, 환경 속에서 직접 행동하고 그 결과로부터 배우는 ‘시행착오’에서 나옵니다.

2. 쓰디쓴 교훈(The Bitter Lesson)과 연산의 힘

역사적 패턴: 체스(딥 블루)와 바둑(알파고)의 사례에서 보듯, 인간 연구자가 직접 짜 넣은 정교한 규칙과 휴리스틱은 항상 막대한 연산량을 무기로 한 일반적 방법론에 패배해 왔습니다.
인간 지식의 제거: 알파고에서 알파제로, 그리고 뮤제로(MuZero)로 진화할수록 인간의 기보나 게임 규칙조차 제거했을 때 AI의 성능이 오히려 압도적으로 향상되었음을 강조합니다.
확장성: 인간의 노하우는 확장에 한계가 있지만, 연산과 탐색에 기반한 방법론은 컴퓨팅 파워의 증가에 따라 무한히 성장할 수 있습니다.

3. 능동적 추론과 지각의 메커니즘

예측과 오차 수정: 뇌는 닫힌 두개골 안에서 외부 신호를 직접 보는 것이 아니라 끊임없이 다음 상황을 예측하고, 실제 신호와의 오차(도파민 신호)를 수정하며 세상을 이해합니다.
자유 에너지 최소화: 칼 프리스턴의 이론을 통해, 지능체는 내부 모델을 수정하거나 세상을 직접 바꾸는 행동을 통해 예측 오차를 최소화하려 한다고 설명합니다.

4. 인류의 다음 단계: 디지털 지능으로의 계승

설계된 지능: 인류는 이제 DNA 복제라는 생물학적 한계를 넘어, 지능의 작동 원리를 이해하고 스스로를 설계하는 ‘디지털 지능’ 시대로 진입하고 있습니다.
데이터 오염의 경고: AI가 생성한 데이터를 다시 AI가 학습하는 ‘재귀적 루프’는 정보의 다양성을 파괴하고 시스템 붕괴(Model Collapse)를 초래할 수 있음을 경고하며, 순수한 경험 데이터의 중요성을 역설합니다.

핵심 데이터 / 비교표

AI 모델 진화 비교 (DeepMind 사례)

AGI 단계론 (DeepMind, 2023)

Level 1 (비숙련): 성인 수준 (현재 LLM의 위치)
Level 2 (상위 50%): 숙련된 성인
Level 3 (상위 10%): 전문가 수준
Level 4 (상위 1%): 마스터 수준
Level 5 (초인적): 모든 인간을 능가함

타임스탬프별 핵심 포인트

| 시간 | 핵심 내용 | |—|—| | 00:46 | 얀 르쿤(Yann LeCun)의 진단: 현재 AI는 잘못된 방향으로 가고 있다 | | 03:29 | 강화학습의 창시자 리처드 서튼(Richard Sutton) 인터뷰 시작 | | 05:09 | LLM의 다음 토큰 예측은 ‘월드 모델’ 구축 과정이 아니라는 비판 | | 07:25 | 칼 프리스턴(Karl Friston)의 능동적 추론 메커니즘 설명 | | 14:39 | ‘쓰디쓴 교훈(The Bitter Lesson)’: 연산이 인간의 지식을 이기는 이유 | | 17:16 | 뮤제로(MuZero)의 성과와 인간 지식 제거의 중요성 | | 28:24 | 재귀적 생성 데이터로 훈련된 AI 모델의 붕괴(Poison Reality) 경고 | | 31:12 | 디지털 지능 시대의 도래와 인류의 4대 진화 단계 | | 34:10 | ‘복제’에서 ‘설계와 구성’으로의 우주적 전환 |

결론 및 시사점

영상의 핵심 메시지는 AI의 발전 방향이 인간의 지식을 주입하고 언어를 모방하는 방식(LLM)에서 벗어나, 연산 능력을 바탕으로 스스로 환경과 상호작용하며 목표를 달성하는 방식(RL)으로 회귀해야 한다는 것입니다. 리처드 서튼은 인류가 스스로 지능을 설계하는 ‘디지털 지능’ 시대로의 진화는 피할 수 없는 숙명이며, 이 과정에서 인간의 특권 의식을 내려놓고 변화를 수용하는 태도가 필요함을 시사합니다.

추가 학습 키워드

강화학습 (Reinforcement Learning): 시행착오를 통해 보상을 극대화하는 행동을 학습하는 방식.
쓰디쓴 교훈 (The Bitter Lesson): AI 역사상 인간의 노하우보다 대규모 연산 기반의 일반적 방법론이 항상 승리했다는 서튼의 에세이.
능동적 추론 (Active Inference): 뇌가 예측 오차를 최소화하기 위해 내부 모델을 수정하거나 행동하는 메커니즘.
뮤제로 (MuZero): 게임의 규칙조차 모르는 상태에서 오직 경험을 통해 세계 모델을 학습하는 AI.
모델 붕괴 (Model Collapse): AI가 생성한 데이터를 반복 학습할 때 정보의 질이 저하되고 지능이 퇴화하는 현상.

기본 정보

| 항목 | 내용 | |—|—| | 채널 | 사이언스 아담 Science Adam | | 카테고리 | 기타 | | 게시일 | 2026-04-05 | | 영상 길이 | 50:19 | | 처리 엔진 | gemini-3-flash-preview | | 원본 영상 | YouTube에서 보기 |