ASIC, 언젠가 엔비디아 GPU 대체할까?

[애플경제 이윤순 기자] 비록 현재는 미약하지만 장차 ‘맞춤형 AI 칩’(ASIC)이 엔비디아의 GPU를 능가할 수 있을까. 유력한 전망치에 의하면 적어도 2028년까지도 엔비디아 GPU가 전체 AI 칩 시장의 75%를 차지하고, 나머지 25%가 ASIC이 점유할 것으로 예상된다.

그러나 전문가들은 “25%라는 수치는 매우 유의미한 전망치”라며 향후 ASIC의 시장 가능성을 높이 보고 있다.

“여전히 엔비디아가 독점하고 있지만…”

그런 가운데 옴디아 리서치는 “구글의 텐서플로우(TPU)가 엔비디아의 ‘점심’을 먹어치운다”는 표현으로 TPU가 탑재된 ASIC이 장차 기존 범용 GPU 영역을 빠르게 잠식할 수 있을 것이란 예측을 내놓고 있어 주목된다.

엔비디아는 여전히 AI 칩 분야에서 독보적인 지위를 유지하고 있다. 그러나 최근 구글 텐서플로우 기반의 ASIC 분야가 GPU 시장을 눈에 띄는 속도로 파고들고 있다는 분석이다. “엔비디아 독점에 맞선 경쟁체제가 절실히 필요한 상황에서 기존 GPU 시장 전반에 걸쳐 텐서플로우 기반의 ASIC이 도전장을 내밀고 있는 듯하다”는 것이다.

특히 주목을 끄는 것은 맞춤형 칩 분야에서 최근 두각을 나타내고 있는 브로드컴이다. 이 회사는 올해 자체 ASIC의 일종인 차세대 AIXPU 등에 약 90억 달러가 넘는 구글 텐서플로우를 탑재한 것으로 알려졌다. 이를 두고 “AI 칩 분야의 역학에 대한 새로운 분석이 가능하다”는 시각도 있다.

브로드컴은 앞서 이미 구글, 메타, 바이트댄스 등과 협업, 자신만의 독자적 영역이라고 할 수 있는 맞춤형 AI 칩(ASIC)을 개발하고 있다. 특히 텐서플로우를 장착한 차세대 AIXPU를 개발, 차별화를 기하고 있다. 덕분에 최근에는 시가총액 1조달러를 초과, 대만의 TSMC를 제치고 세계 10위권에 진입하기도 했다.

이미 클라우드 네이티브에선 ASIC의 인기가 폭발적이다. 다수의 글로벌 클라우드 공급업체들도 엔비디아의 GPU보다 맞춤형 칩인 ASIC을 선호하는 경향이 갈수록 두드러지고 있다.이는 GPU보다 비용면에서 부담이 적을 뿐 아니라, 내부 워크로드를 효율적으로 구동하고, 최적화시키는데 한층 적합하다는 판단 때문이다.

‘소후 ASIC’, H100의 160개 해당하는 성능?

이미 ASIC 시장 경쟁도 치열하다. 지난 6월엔 AI 스타트업 에치드(Etched)가 자사의 AI 트랜스포머 엔진을 탑재한 ‘Sohu ASIC’이 엔비디아 Blackwell B200 GPU보다 훨씬 빠르고 저렴하다고 주장, 눈길을 끌기도 했다.

당시 에치드는 오픈AI의 챗GPT와 메타 Llama LLM AI 모델에 사용되는 신경망 아키텍처인 ‘트랜스포머 엔진’을 차용한 점이 특징이다. 이를 통해 소후(Sohu)라는 전용 ASIC 기계로 개발한 ‘소후 ASIC’을 공개한 것이다. 그러면서 “엔비디아 블랙웰보다 10배, 호퍼AI GPU보다 20배 속도가 빠르다”고 주장했다.

이 회사는 그러면서 이를 뒷받침하는 몇 가지 벤치마크도 제시했다. ‘소후 ASIC’이 초당 50만개 이상의 라마 700억개의 토큰을 처리할 수 있다는 것이다. 이게 사실이면 엔비디아의 H100 160개에 해당하는 성능이다. 이 밖에도 “메타 라마, 구글과 앤트로픽 등 모든 최신 AI 모델을 제공할 수 있고, 통합을 위해 조정도 할 수 있어 ASIC의 광범위한 채택을 보장할 수 있다”고 밝혔다.

특히 이는 ‘FLOPS 압축’을 강조했다. 즉 초당 부동소수점 연산 속도를 극대화, 컴퓨팅 성능을 높인다는 얘기다. 그래서 “보통의 ASIC 활용율의 2배 90% 활용률을 달성했다”면서 “변압기에 특화된 트랜지스터의 많은 기능을 적용한 반면에 엔비디아 등은 프로그래밍 가능성에 중점을 두기 때문에 ‘FLOPS 압축’ 측면에서 ‘소후’와는 비교가 안 된다”고 했다.

이 회사는 또 TSMC와 협력, ‘소후’에 4nm 공정을 도입했으며, 1억 2,000만 달러의 자금을 조달했다고도 했다.

그래선지 모건 스탠리 추정에 따르면, 주로 클라우드 공급업체가 주도하는 맞춤형 AI 칩 시장은 2024년 1,200억 달러에서 2027년 3,000억 달러로 급성장할 것으로 보인다. 이런 성장세는 GPU 시장의 성장률을 앞지르는 것이다.

물론 브로드컴이 최근 TPU 출하량이 90억 달러를 넘을 정도로 선풍적인 인기를 끈다고 해도, 아직은 엔비디아의 장벽을 넘기엔 턱없는 수준이다. 감히 엔비디아 AI 칩 시장 점유율을 깎아내릴 정도는 아니란 얘기다. 엔비디아가 조만간 시장 지배력을 내줄 것이라고 생각하는 전문가들은 거의 없다.

클라우드 업계, ASIC을 더 선호

금년 한 해만 해도 마이크로소프트가 엔비디아의 호퍼 GPU(Hopper GPU)를 무려 485,000개나 구매했다. 메타 역시 호퍼 GPU를 224,000개 추가로 구매한 것으로 알려졌다. 게다가 엔비디아의 차세대 블랙웰 GPU가 출시되면서 기존 호퍼 칩보다 더욱 광범위하게 시장 점유율을 늘려갈 것이란 예상이다.

씨티뱅크 역시 “AI 칩 분야가 2028년까지 3,800억 달러 규모로 성장할 것”으로 예상하면서, “그 중 엔비디아 AI GPU가 시장의 75%를 차지하고, ASIC이 나머지 25%를 차지할 것”으로 내다봤다.

그럼에도 불구하고 많은 전문가들은 ASIC의 미래를 섣불리 단정해선 안 된다는 견해다. 즉, “분명한 것은 TPU 기반 AI 제품이 구글 클라우드라는 거대한 도구를 메신저삼아 급속히 보급되며, 빠르게 성장을 주도할 것이란 점”이다. 그 결과에 따라선 가까운 미래에 텐서플로우 기반의 ASIC이 엔비디아를 따라잡거나, 대체할지도 모른다는 조심스런 분석도 적지 않다.