엔비디아 GPU 없이는 AI 반도체 이야기가 안 된다고 믿었던 시장의 상식이, 최근 몇 달 사이 흔들리고 있습니다. 앤스로픽이 100만 개 이상의 구글 TPU 도입 계약을 체결했다는 소식이 전해지자 엔비디아 주가는 흔들렸고, 반대로 알파벳 주가는 뛰었습니다. 도대체 TPU가 뭐길래 이런 지각변동을 일으키는 걸까요. 오늘은 반도체 시장의 새로운 주인공, TPU의 역할과 앞으로의 전망을 함께 짚어보겠습니다.
TPU란 정확히 무엇인가요?
TPU(Tensor Processing Unit)는 구글이 2015년 자체 개발한 AI 연산 전용 반도체(ASIC)입니다. GPU가 그래픽 처리부터 게임, AI 연산까지 두루 쓰는 ‘다목적 만능 도구’라면, TPU는 오직 인공지능의 핵심 연산인 대규모 행렬 곱셈만을 위해 설계된 ‘맞춤 정장’에 가깝습니다.
범용성을 포기한 대신 TPU는 특정 작업에서 압도적인 효율을 냅니다. 최신 7세대 모델 ‘아이언우드(Ironwood)’는 FP8 기준 4,614TFLOPS 연산 성능에 192GB HBM3E 메모리를 탑재했고, 9,216개를 하나의 팟(Pod)으로 묶으면 42.5엑사플롭스급 성능을 냅니다. 이는 엔비디아 차세대 GB300 기반 시스템과 견줄 만한 수준입니다.
실제로 구글의 최신 AI 모델 ‘제미나이3’가 경쟁 모델을 압도하는 성능을 보이면서, 그 뒤에 있는 TPU에 대한 관심도 함께 커지고 있습니다. 구글은 검색·유튜브·번역 같은 자사 핵심 서비스에서 10년 가까이 TPU를 실전에서 검증해왔기 때문에, 단순한 ‘신제품’이 아니라 오랜 실전 데이터가 쌓인 완성형 아키텍처라는 점이 다른 후발 AI 칩들과 차별화되는 지점입니다.
| 구분 | GPU (엔비디아) | TPU (구글) | 핵심 차이 |
|---|---|---|---|
| 설계 목적 | 범용 병렬 연산 | AI 행렬 연산 전용 | 범용성 vs 특화 효율 |
| 공급 방식 | 완제품 판매 | 구글 클라우드 대여 중심 | 소유 vs 구독형 접근 |
| 대표 소프트웨어 | CUDA | TensorFlow, JAX, PyTorch/XLA | 생태계 종속성 차이 |
| TCO(총소유비용) | 기준 | 약 30~44% 저렴 (세미애널리시스 추정) | 대량 추론 시 비용 우위 |
왜 지금 TPU가 이렇게 주목받는 걸까요?
배경에는 세 가지 거시적 흐름이 겹쳐 있습니다. 첫 번째는 AI 추론(inference) 수요의 폭발적 증가입니다. 챗봇과 에이전트가 실시간으로 답을 내놓는 서비스가 늘면서, 모델을 ‘학습’시키는 것 못지않게 ‘실행’하는 비용이 기업의 발목을 잡기 시작했습니다.
두 번째는 GPU 공급난과 가격 부담입니다. 엔비디아 GPU는 여전히 품귀 현상을 겪고 있고, 가격 협상력도 절대적으로 엔비디아 쪽에 쏠려 있었습니다. 이런 상황에서 대안이 하나 생긴다는 것 자체가 빅테크에게는 강력한 협상 카드가 됩니다. 실제로 일부 고객사는 TPU 도입을 검토하겠다는 신호만으로도 엔비디아로부터 상당한 가격 인하를 이끌어냈다는 분석도 나옵니다.
세 번째는 하이퍼스케일러들의 수직계열화 전략입니다. 구글, 아마존, 메타 모두 자체 칩 개발에 뛰어들고 있는데, 그중 가장 오랜 업력과 검증된 성능을 가진 것이 구글의 TPU입니다. 여기에 클라우드 마진 구조도 중요한 변수입니다. 구글은 TPU를 자사 클라우드에서 대여 형태로 제공하기 때문에, 하드웨어 판매 마진뿐 아니라 클라우드 사용료라는 두 번째 수익원을 동시에 챙길 수 있습니다. 이는 알파벳 입장에서 광고 사업 의존도를 낮추는 동시에, 구글 클라우드 자체를 독립적인 성장 엔진으로 키우는 전략과도 맞물려 있습니다.
TPU가 촉발한 시장의 나비효과
구글의 TPU 외부 판매 확대는 단순한 제품 출시를 넘어, AI 반도체 공급망 전체를 흔드는 신호탄이 되고 있습니다.
| 시점 | 사건 | 시장에 미친 의미 | 실제 사례 |
|---|---|---|---|
| 2025년 하반기 | 앤스로픽, TPU 100만 개 도입 계약 | TPU의 대형 고객 검증 성공 | 1GW급 AI 인프라 구축 착수 |
| 2025년 11월 | 메타, 2027년 TPU 도입 검토 소식 | 엔비디아 독점 구조에 균열 | 알파벳 주가 상승·엔비디아 주가 조정 |
| 2026년 상반기 | 7세대 ‘아이언우드’ 정식 출시 | 구글 클라우드 매출 급성장 견인 | 구글 클라우드 전년比 63% 매출 성장 |
| 2026년 하반기~2027년 | TSMC 2나노 기반 8세대 아키텍처 프리뷰 | 후공정(CoWoS) 병목이 최대 변수로 부상 | 모건스탠리, 2027년 생산량 500만대 전망 |
투자자라면 지금 무엇을 챙겨야 할까요?
- 메모리 공급망 점검: TPU 역시 HBM 없이는 작동하지 않습니다. SK하이닉스와 삼성전자의 HBM3E·HBM4 공급 계약 현황을 주기적으로 확인해야 합니다.
- 후공정 병목 리스크 인지: TPU 생산의 최대 변수는 설계가 아니라 TSMC의 CoWoS 첨단 패키징 캐파입니다. 관련 소부장 기업의 수주 흐름을 눈여겨보세요.
- 단일 종목 쏠림 경계: 엔비디아 일변도였던 AI 반도체 포트폴리오를 구글(알파벳), 브로드컴 등으로 분산할 시점인지 점검해야 합니다.
- 클라우드 매출 구조 확인: 구글 클라우드의 TPU-as-a-Service 매출 비중이 커질수록 알파벳의 밸류에이션 프리미엄도 달라질 수 있습니다.
- 고객사 이탈 시그널 추적: 메타, 애플 등 대형 고객이 실제로 TPU 도입을 확정하는지 여부가 다음 랠리의 트리거가 될 수 있습니다.
핵심 원칙: TPU 투자는 ‘엔비디아 대체’가 아니라 ‘AI 반도체 시장의 다극화’라는 관점에서 접근해야 합니다. 승자독식 구도가 깨지는 국면에서는 메모리·패키징처럼 누구에게나 팔리는 공급망 기업이 오히려 더 꾸준한 수혜를 받을 수 있습니다.
주목해야 할 실제 사례
가장 상징적인 사례는 역시 앤스로픽의 대규모 TPU 도입입니다. 자체 AI 모델을 개발하는 기업이 엔비디아가 아닌 구글의 칩을 선택했다는 사실 자체가 시장에 던진 메시지는 컸습니다. 여기에 메타가 2027년부터 자사 데이터센터에 TPU를 배치하는 방안을 검토 중이라는 소식까지 더해지며, ‘엔비디아 천하’라는 표현이 무색해지고 있습니다.
TPU 설계에는 구글 혼자만 있는 게 아닙니다. 브로드컴이 오랜 기간 TPU 공동 설계를 담당하고 있는데, 이 때문에 TPU 확산의 수혜가 구글 한 곳에만 머물지 않는다는 점도 중요합니다. TPU 물량이 늘어날수록 브로드컴의 맞춤형 반도체(ASIC) 설계 매출도 함께 늘어나는 구조라, 시장에서는 브로드컴을 ‘TPU 생태계의 숨은 수혜주’로 분류하기도 합니다.
국내로 눈을 돌리면 SK하이닉스의 존재감이 두드러집니다. 업계에서는 SK하이닉스가 구글의 최신 TPU용 HBM3E 첫 공급사가 될 것이라는 분석이 나오고 있고, 삼성전자 역시 생산 여력을 앞세워 구글을 포함한 비엔비디아 고객 비중을 확대하겠다는 전략을 밝힌 바 있습니다. TPU 경쟁이 곧 한국 메모리 기업들의 새로운 성장 동력으로 연결되는 구조인 셈입니다.
결론 — TPU는 엔비디아의 대항마가 아니라 시장을 넓히는 두 번째 엔진입니다
개인적으로 이번 TPU 확산을 지켜보면서 느낀 건, 이것이 ‘누가 이기느냐’의 싸움이 아니라 ‘AI 반도체 파이 자체가 커지는’ 국면이라는 점입니다. 구글이 TPU 외부 판매를 확대한다고 해서 엔비디아의 자리가 당장 사라지는 것은 아닙니다. 다만 대량 추론이라는 새로운 수요처가 열리면서, 그 파이를 나눠 먹을 선수가 하나 더 늘어난 것이죠. 투자자 입장에서는 특정 기업 하나에 베팅하기보다, 이 흐름 전체에서 반드시 필요한 메모리·패키징 공급망에 관심을 두는 편이 리스크 관리 측면에서 유리하다고 생각합니다.
같은 맥락에서 반도체 시장과 하이퍼스케일러의 관계 및 전망 글을 함께 읽어보시면 TPU를 둘러싼 큰 그림을 이해하는 데 도움이 될 것입니다. 또한 TPU의 성능을 좌우하는 메모리 기술이 궁금하시다면 AI 시대 메모리 종류와 발전 과정 — HBM부터 CXL까지 완전 정리 글도 참고해보세요.
에이펙스 트렌드 에셋(Apex Trend Asset)은 앞으로도 시장 흐름을 실무 관점에서 쉽게 풀어드리겠습니다. 지금까지 반도체에서 TPU의 역할과 앞으로 전망 핵심 인사이트였습니다.
자주 묻는 질문 (FAQ)
Q1. TPU는 개인 투자자도 직접 살 수 있나요?
아니요. TPU는 일반 소비자용 제품이 아니라 구글 클라우드(GCP)를 통해 대여하는 방식으로만 이용할 수 있습니다. 개인 투자자는 알파벳, 브로드컴 등 관련 기업 주식이나 ETF를 통해 간접 투자하는 방식을 고려할 수 있습니다.
Q2. TPU가 확산되면 엔비디아 주가는 계속 나빠지나요?
단정하기는 어렵습니다. AI 반도체 수요 자체가 워낙 빠르게 성장하고 있어 엔비디아 GPU 수요도 함께 늘고 있습니다. 다만 협상력 측면에서 엔비디아의 독점적 지위가 예전보다 약해질 가능성은 열어둘 필요가 있습니다.
Q3. 한국 기업 중 TPU 관련 수혜주는 어디인가요?
가장 직접적인 수혜가 예상되는 곳은 HBM을 공급하는 SK하이닉스와 삼성전자입니다. TPU 생산량이 늘어날수록 고대역폭 메모리 수요도 함께 증가하는 구조이기 때문입니다.
Q4. TPU 생산의 가장 큰 병목은 무엇인가요?
설계나 수요가 아니라 TSMC의 첨단 패키징(CoWoS) 생산 능력입니다. 최첨단 패키징이 가능한 곳이 사실상 TSMC뿐이라 물량 확대에 시간이 걸리고 있습니다.
Q5. TPU 투자, 지금 시작해도 늦지 않았을까요?
업계에서는 CoWoS 병목이 완화되는 2027년 이후 TPU 생산량이 본격적으로 확대될 것으로 보고 있습니다. 아직 초기 국면이라는 시각이 우세한 만큼, 관련 공급망 흐름을 꾸준히 모니터링하며 단계적으로 접근하는 전략이 유효해 보입니다.