그래픽처리장치(GPU)는 본래 게임 그래픽을 빠르게 그려내던 칩이었다. PC방에서 흔히 접하던 이 부품이 인공지능(AI) 시대 도래와 함께 갑자기 ‘천재 두뇌’로 대접받게 됐다. 화려한 이펙트와 3차원(3D) 이미지를 구현하기 위해 설계된 병렬연산 능력이 AI의 방대한 학습 데이터 처리에 적격이었기 때문이다. 엔비디아가 오늘날 시가총액 4조 달러를 넘나드는 기술업계의 제왕으로 군림하게 된 배경도 여기에 있다. 그런데 이 시장에 “그래픽 따위는 관심 없다. 오직 AI 연산만 하겠다”고 선언하며 뛰어든 칩이 있다. 바로 구글이 자체 개발한 AI 전용 칩, TPU(Tensor Processing Unit·텐서처리장치)다. 그리고 지금, 구글은 이 칩을 무기로 엔비디아의 철옹성 같은 AI 생태계를 뿌리째 흔들 준비를 마쳤다.
TPU를 한 줄로 정의하자면 ‘AI 수학에 특화된 특수 능력자’라 할 수 있다. GPU가 국어, 영어, 수학 등 모든 과목을 준수하게 잘하는 모범생이라면 TPU는 수학이 전공이자 인생인 수학올림피아드 금메달리스트와 같다. 다른 기능은 서툴지 몰라도 AI가 필요로 하는 수천만 번의 단순 사칙연산 반복만큼은 타의 추종을 불허한다.
GPU가 개별 일꾼이 열심히 계산하는 방식이라면 TPU는 수만 개의 연산장치가 공장처럼 맞물려 동시에 데이터를 처리한다. 마치 도장을 찍는 로봇 수천 대가 초당 몇 억 장의 서류를 처리하는 것과 같다. 이 효율성 덕분에 구글은 그동안 자사 서비스인 검색, 유튜브, 번역 등을 저비용·고효율로 운영할 수 있었다.

‘AI=엔비디아’ 절대 공식을 흔들다
지금까지 TPU는 구글만의 비밀 무기였다. 구글 클라우드 내부에서만 쓸 수 있는 일종의 ‘폐쇄적 전유물’이었기 때문이다. 하지만 상황이 급변했다. 구글이 자사의 빗장을 풀고 TPU를 외부 기업들에도 적극적으로 공급하겠다고 나선 것이다. 실제로 구글의 최신 AI 모델인 ‘제미나이’뿐만 아니라 경쟁사인 앤스로픽의 AI 모델 일부도 엔비디아 GPU가 아닌 구글 TPU로 훈련됐다는 사실이 밝혀졌다. 이는 “최고의 AI는 무조건 엔비디아 칩에서 나온다”는 업계의 절대 공식이 흔들리기 시작했음을 시사한다.
구글의 야심은 구체적인 숫자로도 드러난다. 구글은 2026년 TPU 300만 개, 2027년에는 500만 개를 생산하겠다는 공격적인 목표를 수립했다. 현재 엔비디아가 연간 900만~1000만 개의 GPU를 생산하는 것으로 추정되는데 구글이 500만 개 생산체제를 갖춘다면 단숨에 글로벌 톱티어 칩 공급업체 반열에 오르게 된다. 이는 AI 칩을 더 이상 귀한 ‘첨단 소자’가 아닌 ‘공업 부품 수준’으로 대량 찍어내겠다는 선전포고와 다름없다.
실제로 메타는 2027년부터 수십억 달러 규모의 TPU 도입을 검토 중이며 내년에는 구글 클라우드 기반의 TPU 임대도 논의하고 있다. 이는 엔비디아의 사업 모델에 정면으로 진입하겠다는 선언이다. 구글 내부에서는 이번 TPU 전략이 성공적으로 안착할 경우 엔비디아 전체 매출의 10% 수준까지 잠식할 수 있다는 전망도 나오고 있다. 엔비디아 시총의 상당 부분이 GPU 사업의 독점적 지위에서 나온다는 점을 고려하면 구글의 이러한 행보는 결코 가벼운 시도가 아니다.
물론 GPU는 여전히 강력하다. 범용성과 개발자 생태계, 그리고 연구 단계에서의 유연함은 TPU가 쉽게 넘볼 수 없는 영역이다. 하지만 ‘가성비’와 ‘대량 생산’, 그리고 ‘맞춤형 최적화’를 앞세운 TPU의 추격은 엔비디아에 실질적인 공포가 되고 있다.
GPU가 ‘만능형 두뇌’로 세상을 열었다면 TPU는 이제 그 세상의 운영 방식을 바꾸려 한다. AI 모델이 커지고 산업 깊숙이 침투할수록 ‘누가 더 효율적으로 계산할 수 있는가’는 기업의 생사를 가르는 기준이 될 것이다. 엔비디아의 독주 시대가 저물고 진정한 의미의 ‘AI 두뇌 전쟁’이 시작됐다. 이 거대한 칩 전쟁의 승자가 누가 될지 실리콘밸리의 시계가 그 어느 때보다 빠르게 돌아가고 있다.

원호섭
과학이 좋아 마블 영화를 챙겨보는 공대 졸업한 기자. ‘과학 그거 어디에 써먹나요’, ‘10대가 알아야 할 미래기술10’ 등을 썼다