‘DGX Station’과 ‘DGX Spark’, 784GB 메모리, 데스크톱 AI 개발
“AI가 클라우드에서 데스크톱과 엣지 애플리케이션까지 확장”
초당 1,000조 개의 AI 컴퓨팅 작업, “연말엔 업그레이드 버전”도
[애플경제 이윤순 기자] 19일 엔비디아가 공개한 데스크탑 컴퓨터 ‘DGX Station’과 ‘DGX Spark’는 일명 “세계에서 가장 작은 슈퍼컴퓨터”로 불리기도 한다. 작은 패키지에 784GB의 메모리를 탑재한 이 기기는 데스크톱 AI 개발을 위해 제작된 고성능 컴퓨터다. 젠슨 황의 말마따나 “새로운 종류의 컴퓨터, 즉 개인용 AI 슈퍼컴퓨터”로 알려지고 있다.
“개발자, 데이터과학자 등 추론, LLM 배포 가능”
앞서 미국 캘리포니아주 샌호세에서 열린 엔비디아 GTC 컨퍼런스에서 엔비디아는 ‘DGX Spark’와 ‘DGX Station’이라는 2개의 소형 슈퍼컴퓨터를 발표했다. 두 슈퍼컴퓨터 모두 엔비디아 블랙웰 울트라 플랫폼을 사용한 것이다. “개발자, 연구자, 데이터 과학자 및 학생이 추론을 실행하고 대규모 언어 모델을 배포하는 것을 목표로 한다”는 회사측 설명이다.
이날 젠슨 황은 “AI는 컴퓨팅 스택의 모든 계층을 혁신했다. AI 기반 개발자를 위해 설계되고 AI 기반 애플리케이션을 실행하도록 설계된 새로운 종류의 컴퓨터가 등장하는 것은 당연한 일”이라고 ‘DGX’의 의미를 부각시켰다. 젠슨 황은 또 “새로운 DGX 개인용 AI 컴퓨터를 사용하면 AI가 클라우드 서비스에서 데스크톱이나 엣지 애플리케이션까지 확장될 수 있다”고 그 효용성을 강조했다,
DGX Spark는 작은 패키지에도 불구, 784GB의 메모리를 탑재하고 있다. 이보다 앞서 개발단계에선 ‘Project Digits’로 알려졌던 ‘DGX Spark’는 이른바 “세계에서 가장 작은 슈퍼컴퓨터”라는 엔비디아측의 주장이다.
5세대 PCIe의 5배 대역폭으로 CPU와 GPU가 연결
실제로 그 사양을 보면 엔비디아의 주장이 지나친 과장이라고만 할 수 없다는게 업계의 평가다. 내부에 탑재된 ‘GB10 Grace 블랙웰 슈퍼칩’엔 초당 1,000조 개의 AI 컴퓨팅 작업을 수행할 수 있는 블랙웰 GPU가 포함되어 있다. 엔비디아는 또 “자체 NVLink-C2C 상호 연결 기술에 의해 5세대 PCIe의 5배 대역폭으로 CPU와 GPU가 연결된다”고 강조했다.
즉, GPU나 CPU, DPU, NIC, SOC 등 엔비디아 구성 요소 간의 일관된 연결을 가능하게 하는 NVLink-C2C을 통해 고속 데이터 전송 표준인 5세대 PCIe의 5배나 되는 대역폭의 연결이란 초고속 시스템을 구현한다는 설명이다.
‘DGX Spark’를 통해 사용자들은 AI 모델을 ‘DGX Cloud’나 가속화된 클라우드, 데이터 센터 등으로 보낼 수도 있다. 이는 또 차세대 슈퍼컴퓨터를 지향하듯, 디지털과 물리적 세계의 융합도 시도한다. 즉 “최근 발표한 GR00T N1 로봇 기반 모델과, AI 기반 로봇에 ‘물리적 세계에 대해 가르치는’ 코스모스(Cosmos) 세계 생성 시스템을 실행할 수 있다”는 설명이다.
800Gb/s 네트워킹 지원 ‘ConnectX-8 SuperNIC’도
‘DGX Spark’와 함께 ‘DGX Station’은 특히 데스크톱 AI 개발을 위해 제작되었다. ‘DGX Station’의 업데이트된 버전은 오는 연말 ASUS, BOXX, Dell, HP, 람다(Lambda), 슈퍼마이크로(Supermicro) 등 엔비디아의 파트너사를 통해 출시될 예정이다. 다만 가격은 공개되지 않았다. 지금 출시된 버전의 ‘DGX Station’만 해도 대규모 AI 워크로드에 대한 훈련과 추론에 적합한 784GB의 메모리 공간이 있다. 내부에는 ‘GB300 Grace 블랙웰 울트라 데스크톱슈퍼칩’, ‘블랙웰 울트라 GPU’, ‘Grace CPU’가 있으며, 모두 초고속 연결 시스템인 NVLink-C2C로 상호 연결된다.
또한 이들 컴퓨터는 최대 800Gb/s의 네트워킹을 지원하는 엔비디아 ‘ConnectX-8 SuperNIC’도 있다. 여러 ‘DGX 스테이션’을 연결, 대규모 워크로드를 처리하거나, 네트워크 가속 데이터 전송을 할 수 있다.
또한 ‘DGX Station’은 데스크톱 AI 개발을 위한 엔비디아 쿠다-X AI 플랫폼과, 엔비디아 NIM 마이크로서비스, 엔비디아 AI Enterprise 소프트웨어 플랫폼과 상호 운용된다. 현재 ‘DGX Spark’는 사전 예약자를 받고 있으며, 가격은 미화 3,000달러다. 기기 제조는 ASUS, Dell, HP 등의 전문 PC제조업체에 위탁, 생산한다.