개발비용 크게 절감, 로컬 추론 기반 온디바이스AI 확산
애플, 구글, 퀄컴, 삼성 등 “기기 자체에서 기계학습, AI작동”
AI개발 과정의 LLM 구축 위한 막대한 비용 크게 절감
[애플경제 전윤미 기자] 올해는 이른바 ‘로컬 머신러닝’이 새롭게 부상, AI 개발 비용을 크게 절감시킬 것이란 전망이 나와 주목을 끈다.
시장분석기관인 ‘CCS Insight’는 “특히 ‘로컬 ML’은 개발자가 기기 내 학습 개발을 가능하게 함으로써 번거로운 컴퓨팅 요구 사항이나 비용 증가를 피할 수 있을 것”이라며 “클라우드 기반 AI에 대한 강력한 컴퓨팅 요구 사항들은 대부분 배포 비용을 절감할 수 있는 온디바이스 AI 처리로 전환하는 요인이 될 것”이라고 예상했다.
빅테크, 앞다퉈 ‘로컬 ML’ 제품 개발
실제로 최근에도 구글이 자사의 ‘제미니 나노’(Gemini Nano) 모델을 특정 기기에서 사용할 수 있다고 발표하면서 온디바이스 AI를 선도하려는 의도를 내비친 바 있다. ‘제미니 나노’ 자체가 어떤 면에선 온디바이스 작업을 위해 특별히 설계된 것이며, 나아가선 ‘로컬 ML’의 보편화를 촉진하는 계기가 될 것이란 전망도 나오고 있다.
IT프로포탈은 “(이런 움직임은) 구글과 애플만이 아니다. 이미 퀄컴, 삼성 등 다른 기업들도 ‘로컬 ML’과, ‘온디바이스 ML’ 추론에 초점을 맞추는 움직임을 보이고 있다”고 근황을 전하고 있다.
이에 따르면 퀄컴의 경우 이미 최신 스냅드래곤(Snapdragon) 플랫폼 세대를 통해 ‘온디바이스 AI’를 적극 지원하고 있다. 삼성도 곧 출시될 갤럭시 ‘S24 울트라’ 스마트폰에서 자체 AI ‘가우스’가 작동하는 ‘AI 폰’ 기능을 탐색하고 있다는 정보가 확실시된다. 그야말로 ‘로컬 ML’ 기반의 다양한 온디바이스AI 시장이 펼쳐지는 모양새다.
최근 글로벌 IT업계에서 남다른 R&D 활동으로 관심을 받고 있는 신흥 생성AI 개발기업인 허킹 페이스(Hugging Face)는 3일 “로컬 머신러닝 추론은 올해의 핵심 트렌드가 될 것”이라고 밝혀 또다시 시선을 집중시켰다.
엄청난 에너지와 비용 LLM, “그 대안으로 등장”
‘로컬 머신러닝’의 가장 큰 장점 중 하나는 비용 절감이다. IT업계로선 AI 교육 및 개발 비용이야말로 가장 큰 장애물이었다. 실제로 ‘IT프로포탈’이 ‘CCS Insight’를 인용한 바에 의하면 GPT-3와 같은 LLM 구축 작업은 400만 달러를 초과할 수도 있는 것으로 나타났다.
지난해 10월 ‘CCS Insight’는 이런 상황에서 “2024년에는 생성 AI의 엄청난 개발 비용으로 인해 크나큰 ‘터닝 포인트’가 생겨날 수도 있을 것”이라고 내다보기도 했다. 그 ‘터닝 포인트’가 바로 ‘로컬 ML’일 수도 있다는 얘기다.
이 회사는 “2024년에는 엄청난 비용을 절감하기 위해 ‘로컬’ 기계 학습으로 다수의 기업들이 전환할 수도 있을 것”이라며 “특히 지난 2023년은 강력한 대형언어모델(LLM) 기반의 AI 개발에 엄청난 에너지와 비용이 소모되었다”며 그 당위성을 주장했다.
허깅 페이스의 CTO인 쥴리앙 쇼몽은 아예 “‘로컬 머신 러닝’이 앞으로 새로운 트렌드가 될 수 있다”고 소셜미디어 링크드인(LinkedIn)을 통해 단언하기도 했다.
그에 따르면 ‘로컬 ML’은 날로 확산되며 그 규모도 거대해질 것으로 보인다. 특히 애플의 제품을 비롯해 각종 혁신적인 하드웨어를 채택하는 경우는 물론, 레거시 CPU나 모바일 기기에 의해 활성화될 것으로 전망되었다.
쇼몽은 특히 “대규모 LLM을 제외한 대부분의 경우 ‘로컬 추론’만으로도 추론의 실행 가능한 대안이 될 것”이라고 유용성을 강조했다.
이같은 언급과 전망은 최근 애플이 각종 하드웨어에서 사용하도록 설계된 일련의 머신 러닝 도구가 최근 출시된 것도 그 배경으로 작용한 셈이다. 지난 해 연말 애플은 사내 ML 연구 그룹이 개발한 머신러닝 프레임워크인 ‘Apple MLX’ 출시를 ‘조용히’ 발표했다. 이 프레임워크를 통해 아이폰을 비롯한 애플 기기 사용자들은 기기 자체에서 AI추론을 할 수 있게 된다. 그야말로 ‘로컬 ML’인 셈이다.
‘개발․배포와 관련된 개인 정보 보호’ 중요
이 프레임워크는 PyPI(파이썬 패키지 인덱스)나, 깃허브와 같은 오픈 소스 라이브러리를 통해 사용할 수 있다. 개발자도 AI 도구나 플랫폼을 구축하는 방법에 이를 활용, 변화를 줄 수도 있다.
이같은 ‘로컬 ML’의 등장을 기정사실화하는 의견은 허깅 페이스 외에도 많은 전문가들이 공유하고 있다. 시장분석기관인 ‘CCS Insight’의 수석 분석가이자 CMO인 벤 우드 역시 ‘링크드인’을 통해 “로컬 기계 학습 추론에 대한 (허깅 페이스) 쇼몽의 의견에 공감하며, 이는 특히 개발자들이 앞으로 필히 명심하고 예의주시해야 하는 상황”이라고 강조했다.
다만 문제는 AI 도구와 서비스 개발․배포와 관련된 개인 정보 보호라는 지적이다. 애플의 경우는 모델 훈련 과정 등에서 데이터 노출 위험을 줄이는 중요한 방법으로 추론에 대한 보다 ‘지역화’된 접근 방식을 채택하고 있는 것으로 알려졌다. 특히 오픈AI의 챗GPT와 같은 문제가 발생하지 않도록, 애플 등 많은 기업들은 민감한 데이터를 클라우드로 보내는 대신 기기에 보관하기 위해 온디바이스 AI를 사용하기도 한다.