각 섹션은 반드시 — 구분선으로 시작합니다.
핵심 요약
- AI 반도체 시장은 학습(Training)을 전담하는 엔비디아의 고비용 GPU 독점 구도에서, 사칙연산(행렬 곱셈)에만 최적화되어 가격과 전력 효율이 압도적으로 우수한 추론(Inference) 전용 NPU/TPU 칩으로 세분화되며 다변화되고 있습니다.
- 구글은 자체 TPU로 제미나이 3를 100% 학습시켜 GPU 의존도를 낮췄고, 아마존, 메타, 마이크로소프트 등 빅테크 기업들도 자체 AI 칩 인프라를 구축하고 있어 글로벌 데이터센터 내 GPU 점유율은 2024년 87%에서 2025년 75% 수준으로 하락할 전망입니다.
- 리벨리온과 퓨리오사AI 등 국내 NPU 스타트업들은 대기업 파트너십(SKT, KT, LG, 삼성SDS)과 정부 자금을 기반으로 성장을 도모하고 있으나, 아직 매출 규모가 수십억 원에서 수백억 원대에 불과하고 적자 폭이 커 자금 조달(IPO 및 프리IPO)과 글로벌 상용화 검증이 시급한 과제입니다.
주요 내용
1. GPU와 AI 전용 반도체(NPU/TPU)의 작동 원리 차이
- 연산 처리 방식의 비유: CPU가 복잡하고 고차원적인 계산을 척척 수행하는 ‘수학과 교수’라면, GPU와 NPU는 단순한 사칙연산 문제를 수천 명이 동시에 병렬 처리하는 ‘초등학생 1,000명’에 비유할 수 있습니다.
- 범용 GPU의 한계: AI 모델의 연산은 단순 곱셈과 덧셈을 무한 반복하는 ‘행렬 곱셈’이 대부분입니다. 하지만 그래픽 연산용으로 개발된 범용 GPU는 AI 연산에 불필요한 스펙을 많이 포함하고 있어 칩 가격이 비싸고 전력 소모가 극심합니다.
- NPU 및 TPU의 등장 배경: 오직 AI 행렬 곱셈 연산만을 위해 회로를 극도로 단순화하여, 전력 소모를 줄이고 칩 단가를 획득하기 위해 전용 AI 칩(NPU, TPU 등)이 개발되었습니다.
- 학습(Training)과 추론(Inference)의 분화: 방대한 데이터를 학습시키는 단계에는 여전히 고성능 GPU가 핵심적인 역할을 수행하지만, 이미 학습된 모델을 구동하여 답변을 출력하는 ‘추론’ 단계에는 가성비와 효율이 뛰어난 NPU/TPU로 빠르게 대체되는 추세입니다.
2. 글로벌 빅테크 기업의 AI 칩 내재화 전략
- 구글 (TPU): 자체 개발한 AI 반도체인 TPU를 적극 활용하고 있습니다. 최근 출시된 ‘제미나이 3’의 경우, 엔비디아 GPU를 전혀 쓰지 않고 구글의 TPU를 통해서만 100% 학습과 개발을 완료했습니다. 구글 내부 검색 및 유튜브 알고리즘 적용을 넘어 외부 클라우드 서비스 형태로 판매를 시작했습니다.
- 아마존 (AWS): 학습용 AI 칩인 ‘트레이니엄(Trainium)’과 추론용 칩 ‘인퍼런시아(Inferentia)’를 보유하고 있습니다. 특히 아마존이 대규모 투자를 단행한 생성형 AI 스타트업 앤트로픽(Anthropic)이 클로드(Claude) 모델을 학습시키는 데 트레이니엄을 대규모로 도입하여 성능과 가성비를 입증하고 있습니다.
- 마이크로소프트 (MS): ‘마이아 100’의 개발 실패를 딛고 올해 초 ‘마이아 200’을 출시하여 자사 서비스인 GPT-4o 연산 지원 및 MS 365 코파일럿(Copilot) 구동에 부분적으로 적용하고 있습니다.
- 메타 (Meta): 자체 추론 칩인 ‘MTIA’를 개발하여 내부 서비스 연산 인프라에 적용 중입니다. 향후 2년 동안 성능을 개선한 신형 칩 버전을 6개월 주기로 계속 출시하겠다는 로드맵을 선언했습니다.
- OpenAI: 코드명 ‘할라페뇨(Jalapeno)’라는 자체 AI 칩을 설계 중이며, 올해 하반기에 최초로 칩을 배포하여 독자적인 하드웨어 생태계를 구축할 예정입니다.
3. 글로벌 AI 칩 스타트업의 혁신 기술과 비즈니스 모델
- 반도체 산업의 분업화: 오늘날 반도체 생태계는 스타트업이 개념 설계만 고도화하면 에이직랜드나 브로드컴 같은 디자인 하우스가 물리 설계를 돕고, TSMC나 삼성전자 같은 파운드리가 위탁 생산을 전담하는 분업 구조가 안착되었습니다. 덕분에 수조 원의 제조 설비 투자 없이 수천억 원 수준의 R&D 자금만으로 스타트업이 시장에 진입할 수 있게 되었습니다.
- 세레브라스 (Cerebras): 웨이퍼를 미세한 칩 단위로 쪼개지 않고, 30cm 웨이퍼 전체를 단 하나의 거대한 통합 반도체로 제작하는 ‘웨이퍼 스케일 엔진’ 기술을 선보였습니다. HBM 없이 칩 내부에 SRAM 메모리를 원칩 형태로 내장하여 전송 병목 현상을 원천 차단했습니다. 최근 OpenAI와 20조~30조 원 규모의 초대형 칩 공급 계약을 체결했으며 나스닥 상장 첫날 시가총액이 132조 원(950억 달러)에 달하기도 했습니다. 다만, 현재 매출의 80~90%가 아랍에미리트(UAE) 등 소수 고객에 편중되어 있습니다.
- 그로크 (Groq): 고속 추론 성능을 보장하는 LPU(Language Processing Unit) 개발사로 출발했으나, 최근 약 30조 원 규모의 기술 라이선스 매각을 단행했습니다. 칩 생산 경쟁 대신 매각 대금으로 전용 AI 클라우드 데이터센터를 구축하여 연산 서비스 제공업자로 체질을 바꾸고 있습니다.
- 텐스토렌트 (Tenstorrent): 전설적인 반도체 설계자 ‘짐 켈러’가 이끄는 팹리스 스타트업으로, 일반 컴퓨터나 서버 보드에 사운드 카드처럼 바로 꽂아서 가동할 수 있는 카드 형태의 AI 칩 ‘블랙홀(Blackhole)’을 출시했습니다. 현대차, 삼성, LG 등 국내 대기업과 총 2,000억 원 규모의 계약을 체결했습니다.
- 삼바노바 (SambaNova): 미국과 중국의 기술 패권에 종속되기 싫어하는 제3국(독일, 영국, 일본 등)을 타깃으로 주권형 AI(Sovereign AI) 반도체 인프라를 턴키 방식으로 맞춤 공급하는 차별화 전략을 전개 중입니다.
4. 국내 NPU 스타트업의 경쟁력 분석
- 리벨리온 (Rebellions): SK텔레콤과 KT의 적극적인 투자 및 자사 데이터센터 공급 제휴를 기반으로 성장하고 있습니다. 작년 매출은 322억 원을 달성했으나 개발 인건비 및 장비 도입 등 대규모 R&D 지출로 인해 1,200억 원의 영업손실을 기록했습니다. 최근 사우디 아람코 및 일본 NTT 등 해외 판로 개척에 집중하며 연내 나스닥 또는 코스닥 IPO를 추진하고 있습니다.
- 퓨리오사AI (FuriosaAI): 과거 메타(Meta)로의 1조 원 피인수설이 돌며 시장의 신뢰를 확보했고, 최근 프리IPO 단계에서 7,000억 원 규모의 투자 유치를 추진하며 기업가치 3~4조 원을 조준하고 있습니다. 1세대 칩의 매출 성과(수십억 원 대)는 미미하여 회계 감사보고서상 지속가능성 우려 평가를 받았으나, 최근 삼성전자 파운드리를 통해 위탁 생산한 2세대 AI 칩 ‘레니게이드(Renegade)’ 4,000장을 성공적으로 출고하며 반전을 꾀하고 있습니다. LG AI연구원의 초거대 AI 모델 테스트 지원 및 삼성SDS 데이터센터 대량 탑재 협약을 확보했습니다.
핵심 데이터 / 비교표
[글로벌 AI 가속기 시장 내 GPU 점유율 전망]
(자료 출처: 실리콘 애널리틱스 등 시장조사 추정치)
| 연도 | 가속기 시장 내 GPU 점유율 | 비고 |
|---|---|---|
| 2024년 | 87% | 엔비디아의 사실상 독점 체제 |
| 2025년 | 75% | 빅테크 자체 AI 칩(TPU/NPU) 본격 채택 및 전환기 |
| 2030년 | 70% 미만 | 추론 영역에서의 NPU/TPU 완벽한 대안 안착 |
[국내 주요 NPU 스타트업 현황 비교]
| 기업명 | 작년 매출 / 영업손실 | 핵심 강점 및 주요 파트너십 | 재무 전략 및 로드맵 |
|---|---|---|---|
| 리벨리온 | 매출 322억 원 / 손실 1,200억 원 | SKT, KT 데이터센터 공급 주도 / 사우디 아람코 공급 및 일본 NTT 파트너십 추진 | 국가 성장 펀드 등 비공개 시장 자금 확보 후 연내 상장(IPO) 완료 추진 |
| 퓨리오사AI | 매출 수십억 원 대 (감사보고서 우려 우회 필요) | 신형 칩 ‘레니게이드’ 4,000장 양산 개시 / LG AI연구원, 삼성SDS 대량 탑재 협약 | 기업가치 3~4조 원 규모 목표로 7,000억 원 규모 프리IPO 투자 유치 및 내년 상장 준비 |
타임스탬프별 핵심 포인트
| 시간 | 핵심 내용 |
|---|---|
| 00:16 | 엔비디아가 가속기 시장 점유율 80~90%를 차지하는 현황 및 2030년 점유율 70% 하락 전망 소개 |
| 00:26 | 엔비디아 독점에 맞서 주가가 폭등한 AMD, 브로드컴 및 빅테크 독자 노선 구축 배경 분석 |
| 02:06 | CPU와 GPU, 그리고 행렬 곱셈 알고리즘에 특화된 AI 전용 칩(NPU, TPU)의 구조적 차이점 설명 |
| 05:04 | 글로벌 데이터센터 시장에서 GPU 점유율이 점차 낮아지고 AI 전용 칩이 침투하는 데이터 제시 |
| 06:13 | 대규모 인프라가 필요한 ‘학습’ 단계와 가성비가 최우선인 ‘추론’ 단계의 전력·비용 역학 관계 분석 |
| 06:58 | 구글 제미나이 3의 100% TPU 학습 사례 및 아마존 트레이니엄 기반 앤트로픽 클로드 가동 성과 분석 |
| 07:52 | 설계 특화 팹리스 스타트업이 대규모 자산 없이도 대기업 공급망을 타고 활약할 수 있는 환경 분석 |
| 11:01 | 웨이퍼를 쪼개지 않는 세레브라스의 독창적 대형 칩 설계 방식과 나스닥 시총 132조 원 기록 조명 |
| 13:15 | 텐스토렌트의 카드형 AI 칩 ‘블랙홀’ 유용성과 삼성, 현대차, LG 등 국내 대기업 동맹 체제 소개 |
| 14:41 | 국내 대표 NPU 기업인 리벨리온과 퓨리오사AI의 초기 타깃팅 전략(추론 특화 시장 집중) 설명 |
| 14:47 | 리벨리온의 적자 구조(R&D 중심) 분석 및 글로벌 빅테크(메타, xAI) 납품 준비 등 비전 제시 |
| 15:39 | 퓨리오사AI의 ‘레니게이드’ 최초 양산 출고 실적 및 삼성SDS, LG AI연구원과의 동맹 관계 조명 |
| 17:56 | 엔비디아의 독주 체제를 단단하게 묶어주는 15년 역사의 CUDA 소프트웨어 생태계의 록인 효과 강조 |
결론 및 시사점
- 빅테크의 협상력 카드 확보: 구글, 아마존, 메타 등 빅테크 기업들이 자체 칩을 양산하는 일차적 목표는 엔비디아를 완전히 시장에서 축출하는 것이 아닙니다. 이들은 “우리도 대안 칩(NPU/TPU)을 직접 제조해 서비스를 돌릴 기술이 있다”는 사실을 입증함으로써, 값비싼 엔비디아 GPU 수급 계약 시 가격과 납기를 깎아내리는 강력한 가격 협상 카드로 활용하고 있습니다.
- 소버린 AI 기반 틈새시장 기회: 미·중 무역 분쟁과 글로벌 정세 불안 속에서 주권형 AI(Sovereign AI) 인프라를 원하는 국가들이 늘어나고 있습니다. 국가 단위 안보 자금을 수혈받으며 미국 빅테크 플랫폼의 하드웨어 종속을 회피하고자 하는 유럽과 아시아 국가들이 한국과 글로벌 NPU 스타트업들의 새로운 핵심 바이어로 급부상하고 있습니다.
- 국내 반도체 벨트의 시너지와 과제: 한국은 세계 최고의 메모리 반도체(SK하이닉스, 삼성전자) 생산 역량과 파운드리 인프라, 그리고 대형 통신사 데이터센터라는 탄탄한 내수 공급망을 모두 한 국가 안에 갖춘 세계에서 몇 안 되는 강점을 지니고 있습니다. 다만, NPU 제조 특성상 초기 가동 비용이 높고 상용 고객층의 소프트웨어 호환성(CUDA 익숙함) 장벽이 높기 때문에, 단기 수익성에 연연하지 않는 국가 주도의 마중물 펀드 지원과 국내외 대기업 가동 레퍼런스 누적이 생존을 담보할 유일한 길입니다.
추가 학습 키워드
- NPU (Neural Processing Unit, 신경망처리장치): 인공지능의 딥러닝 알고리즘에 필수적인 행렬 연산을 전력 효율적으로 수행하도록 설계된 전용 반도체.
- CUDA (Compute Unified Device Architecture): 엔비디아가 개발한 병렬 컴퓨팅 플랫폼이자 API 모델로, 전 세계 AI 개발자들이 엔비디아 GPU를 기본으로 연산하게 만드는 강력한 소프트웨어 장벽.
- 웨이퍼 스케일 엔진 (Wafer-Scale Engine): 웨이퍼를 개별 칩으로 자르지 않고 판 전체를 하나의 초거대 칩으로 만들어 연산 속도 향상과 병목 현상 제거를 동시에 달성하는 Cerebras의 독점 기술.
- 소버린 AI (Sovereign AI): 국가가 타국의 기술 패권에 종속되지 않고 자국의 데이터 자권과 인프라(하드웨어·소프트웨어)를 독자적으로 구축·보유하는 자주적 인공지능 개념.
- LPU (Language Processing Unit, 언어처리장치): Groq 사가 선보인 기술로, 대규모 언어 모델(LLM)의 추론 속도를 실시간 응답 수준으로 극대화하기 위해 설계된 초고속 처리 아키텍처.
기본 정보
| 항목 | 내용 | |—|—| | 채널 | 티타임즈TV | | 카테고리 | 경제 | | 게시일 | 2026-07-10 | | 영상 길이 | 16:39 | | 처리 엔진 | gemini-3.5-flash | | 원본 영상 | YouTube에서 보기 |