새해에는 LLM을 대체해 SLM이 득세할 전망
[애플경제 김남주 대기자]‘작은 것이 아름답다.’작은 것이 아름다운 건 앙증맞은 귀여움도 있지만 빠르게 움직이고, 비용이 적게 들기 때문이다. 챗GPT를 비롯한 대규모언어모델(LLM)을 주무기로 한 인공지능(AI)이 프론티어(frontier)를 확장해 나가는 세상이지만 아직은 인간만 못하다. LLM을 구동하려면 엄청난 에너지가 들어간다. 서버를 돌려 결과 값을 얻어내려면 전기, 즉 에너지 투입량이 상상을 초월한다. 사람은 어떤가. 매 끼니마다 밥만 잘 먹으면 된다. 에너지 공급이 충분히 이뤄져 머리를 회전시키는 데 문제가 없다. 인간이 효율성 면에서 아직은 월등하다는 얘기다. LLM은 그 이름처럼 몸집이 크다. 유저가 필요하지 않는 것까지도 껴안고 있다. 소용에 닿는 것만 해결해 주는 ‘작은 AI’는 없을까. 소규모언어모델(SLM)이 출현하게 된 배경이다.
SLM은 매개변수가 적어 학습량은 많지 않지만 최적화를 통해 가성비가 높게 성능을 뽑아낸다. 예를 들어 이미지 생성 AI의 대표 주자인 스태빌리티AI가 이달 공개한 스테이블LM 제퍼 3B는 매개변수가 30억 개에 불과하지만 700억 개로 학습한 메타 ‘라마-2-70b-챗’을 능가하는 것으로 평가되고 있다.
또 다른 예를 보자. 마이크로소프트(MS)는 최근 더 작고 민첩한 성능을 낼 수 있는 SLM의 첫 번째 모델 파이-1(Phi-1)을 공개했다. 일반 LLM보다 훨씬 적은 수의 매개변수를 가지고 있다. 챗GPT의 기반인 GPT3에는 1750억 개의 매개변수가 있다. 최신 LLM GPT4는 약 1조7000억 개의 매개변수가 있다. 반면 파이-1과 그 뒤를 이어 출시한 파이-1.5는 13억 개 파라미터에 불과하다. 얼마 전 공개된 파이-2는 그보다는 많지만 27억 개다. 전문가들은 SLM 출현과 관련해 특정 산업 또는 비즈니스에 초점을 맞춘 소규모 모델은 종종 비즈니스 요구 사항에 맞는 더 나은 결과를 제공할 수 있다고 설명한다. 금융 서비스 고객을 위한 온라인 챗봇이나 전자 의료 기록을 요약하는 생성형 AI 애플리케이션처럼 도메인별 업무를 수행하는 경우, 더 저렴하게 학습할 수 있도록 LLM을 축소한 SLM 방향으로 나아가고 있는 양상이다.
이런 추세를 반영해 새해에는 SLM 기반의 ‘작은 AI’가 주목을 받을 전망이다. 대규모 자본과 컴퓨팅 자원 투입이 필연적인 골리앗 AI를 대체해 가볍고 효율적인 ‘다윗’ AI가 득세할 것으로 점쳐진다. 특히 사용자의 손에 들린 기기에서 구동되는 온디바이스 AI가 크게 유행할 조짐이다. 벌써부터 MS를 비롯해 메타, 구글, 애플 등 빅테크는 연달아 소형 생성형AI를 선보이고 있다. 삼성전자·퀄컴·인텔 등 하드웨어 제조사도 소형 AI 시장에 눈독을 들이고 있다.
초거대 AI의 주도권을 이미 미국이 거머쥐었다는 현실 인식도 소형 AI 개발 붐이 이는 이유 중 하나로 꼽히고 있다. 생성형AI가 차기 국력과 안보를 좌우할 기술로 손꼽히는 와중에 거대화 경쟁에서는 미국을 어차피 따라잡을 수 없다는 판단이다. 그러나 소형 AI에서는 기술력만 있으면 돌파구를 찾을 수 있기 때문이다. 최근 고성능 소형 AI로 주목받는 미스트랄, 팰컨, Qwen 등이 각각 프랑스, 아랍에미리트(UAE), 중국에서 개발된 점이 이를 방증한다. 우리나라에서도 네이버·KT 등이 초거대 AI를 내놓았으나 규모와 성능 면에서 챗GPT, 구글 제미나이 등을 따라잡기 역부족이라는 평가다. 이에 LLM 경쟁에서 한 발 뒤처진 국내에서도 SLM AI 분야에서는 경쟁력을 지닐 수 있다는 확신을 갖고 스타트업들이 생겨나고 있다.
파인튜닝을 통해 사용 목적에 맞게 최적화한 소형 AI는 비용편익 분석 측면에서 우수성을 갖고 있다. 앞으로는 AI가 스마트폰 등 각종 개인용 디바이스에 탑재돼 특정 역할을 수행할 전망이다. 크기는 작지만 사용자의 니즈에 부응하여 솔루션을 척척 내놓은 기특한 작은 AI가 대세를 이룰 전망이다. 새해인 2024년에 소형 AI가 폭발적으로 확산할 것으로 예상되고 있다. LLM에 비해 작은 크기의 SLM은 기계적 해석 가능성, 안정성 개선, 다양한 작업에 대한 미세 조정 실험 등에서 강점을 가지고 있다는 평가다. 새해에는 SLM AI가 다채로운 기능을 뽐내길 기대해 본다.