전체메뉴

[애플경제 전윤미 기자] 생성AI와 ‘AI붐’에 대한 의구심이 날로 커지면서 관련 주식이 폭락하는 사태가 일어났다. 그런 가운데 이구동성으로 “생성AI는 성공보다는 실패할 가능성이 크다”고 결론짓는 연구보고서들이 대량으로 쏟아지고 있다. 가트너를 비롯해 딜로이트, RAND, ABBYY, 골드만 삭스, 블룸버그, 심지어 IBM 등 빅테크 자체 연구조사에 이르기까지 마치 약속이나 한 듯, 이같은 결론을 제시하고 있다. 흡사 ‘생성AI의 종언’을 미리 선언하는 듯한 분위기다.

생성 AI 프로젝트, 최소 30%가 1년 내 실패

이런 조짐은 생성AI 등장 1년 남짓한 작년부터 있어왔다. 간헐적으로 제기되던 ‘회의론’은 “투자수익을 거두려면 수 년 내지 수 십 년이 걸릴지도 모른다”는 분석이 잇따르면서 빠르게 ‘비관론’으로 바뀌었다. 결국 ‘AI붐’의 최고 수혜자였던 이른바 ‘Magnificent Seven’의 주식이 최근 폭락하는 사태가 일어났고, 불과 5일만에 1조 3천억 달러가 날아가 버렸다. 엔비디아, 메타, 알파벳, 마이크로소프트, 아마존, 테슬라, 애플 등은 거액의 AI투자에도 불구, 수익 창출의 시점이 모호하다는 이유로 이처럼 시장 가치가 떨어졌다.

그 와중에 기다렸다는 듯이 거의 모든 리서치 기관들이 일제히 생성AI에 대한 시기상조론, 심지어는 무용론이나 폐기까지도 주장하고 나섰다.

이들이 생성AI의 앞날을 비관하는 것은 거액의 투자비용, 학습 데이터 수집의 한계 뿐만 아니다. ‘생성AI 가 왜, 그리고 어디에 정말 필요한가?’라는 질문에 답할 만한 분명한 비전이나 목표가 없다는 점이 정작 가장 큰 이유다.

그 중 가트너 보고서에 따르면, 생성 AI 프로젝트의 최소 30%가 2025년 말까지 ‘개념 증명’ 단계에 머물다가 중단될 것으로 예상했다. 기업들은 평균 500만~2,000만 달러(한화 65억~270억원)의 사전 투자 비용이 들다보니, 실제 가치를 증명하고 실현하는 데 어려움을 겪고 있다는 것이다.

딜로이트도 비슷한 결과를 내놓았다. 설문 조사 결과, 참여 기업 2,770개 중 70%가 “생성AI 실험의 30% 이하만 겨우 생산 단계에 적용하고 있다.”고 답했다. 그런 저조한 실용화는 준비 부족과 데이터 관련 문제가 가장 큰 원인으로 꼽혔다.

앱 통합 실용화 위한 ‘생성AI API’, 천문학적 비용

AI 프로젝트에 대한 전망 역시 비관적이다. 싱크탱크 RAND에 따르면 2013년부터 2022년까지 AI에 대한 민간 부문 투자가 18배 증가했음에도 불구하고, AI 프로젝트의 80% 이상이 실패했다. 이는 AI와 무관한 다른 IT 프로젝트의 실패율이 불과 40% 미만인데 비하면 크게 대조적이다. 결국 생성AI 프로젝트에 대한 천문학적 규모의 초기 투자가 뒷받침해야 그나마 성공률을 높일 수 있는 것으로 해석된다.

가트너에 의하면 또 개발자가 생성AI 모델을 애플리케이션에 통합할 수 있는 인터페이스인 ‘생성AI API’를 사용하면 최대 20만달러(한화 2억7천만원)의 선불 비용과 연간 사용자당 550달러(70만원 이상)의 추가 비용이 발생할 수 있다고 추정한다. 만약 사용자 지정 모델을 구축하거나 미세 조정할 경우는 500만~2000만 달러, 그리고 사용자당 연간 8,000달러~21,000달러(1천만원~2800만원)가 추가된다.

자동화 소프트웨어 공급업체인 ‘ABBYY’ 보고서 역시 글로벌 IT 기업들의 평균 AI 투자는 작년에 87만9,000달러(한화 약 1억2천만원)라고 전했다. 이 설문 조사에 응답한 사람의 거의 대부분(96%)이 내년에 투자를 늘릴 것이라고 답했지만, 3분의 1은 이처럼 돈이 많이 드는데 대해 우려를 표명했다.

가트너도 “생성AI에 대한 직접적인 투자 수익보다 간접적인 미래 재무 투자 기준을 더 높일 수 밖에 없는 재무 환경을 유도한다”면서 “이에 많은 CFO들은 늘 불안한 상황”이라고 짚었다.

AI 노력의 투자수익(ROI)을 걱정하는 것은 CFO만이 아니다. 구글 등에 대한 투자자들은 회사가 언제, 어떻게 성과를 낼지 불안해하고 있다. 골드만삭스 증시 애널리스트들은 이미 지난 6월 보고서에서 “비싼 투자에도 불구하고, 이 기술(생성AI)은 유용하게 쓰일만큼 필요한 수준에는 전혀 미치지 못하고 있다”고 지적했다. 그 직후인 8월 알파벳과 구글의 시장 가치가 이런 불안심리 때문에 폭락했다.

기업들 대부분 ‘준비 부족’, 데이터 품질도 문제

기업들이 정작 생성AI 프로젝트에 실패한 또 다른 이유가 있다. 딜로이트 등 분석기관들이 꼽는 이유는 대부분 “준비 부족”이다.

딜로이트는 자체 설문 조사에 응답한 사람 중 “회사가 기술 인프라와 데이터 관리 분야에서 잘 준비되어 있다고 느끼는 경우는 절반도 안 된다”고 했다. 기술 인프라와 데이터 관리 모두 AI 프로젝트를 실용화할 만한 수준으로 구현하는데 꼭 필요한 기본 요소들이다.

RAND 연구에서도 역시 “기업들이 데이터를 관리하고 완성된 AI 모델을 배포할 적절한 인프라를 갖추고 있지 않다”고 지적했다.

딜로이트 응답자 5명 중 4명 꼴로 ‘인재’와 ‘리스크 대응 및 거버넌스’ 분야에서 준비가 되어 있지않다고 밝혔다. 그 때문에 많은 기업들은 AI 윤리 측면의 업무를 맡을 사람들을 적극 채용하거나 업스킬링할 수 밖에 없는 실정이다.

데이터 품질 역시 생성AI 프로젝트 성공의 걸림돌로 작용하고 있다. 딜로이트에 따르면 기업체의 55%가 데이터가 민감하거나, 개인정보 보호와 보안에 대한 우려 때문에 특정 생성AI를 사용하길 꺼려했다. 또 환각, 편견, 개인정보 보호 문제 등 AI의 고유한 위험과 함께, EU AI법과 같은 새로운 규정도 장애물이 되고 있다.

또한 RAND 연구에서는 많은 기업들이 효과적인 AI모델을 훈련하는 데 꼭 필요한 데이터를 제대로 확보하지 못하는 것으로 나타났다. RAND는 또 65명의 데이터 과학자 및 엔지니어와의 인터뷰를 통해 분석한 결과, “AI 프로젝트 실패의 근본 원인은 ‘해결하겠다’고 약속한 문제에 대한 명확한 보장이 없다는 점”이라고 지적했다. 흔히 업계에선 AI로 해결하고자 하는 과제를 오해하거나, AI기술로 해결하기에는 너무 복잡한 문제를 선택하는 경우가 많다. 다시 말해 많은 기업들이 실제로 문제를 해결하기 위해 생성AI를 도입하는게 아니라, 그저 ‘최신의 최고 기술’을 사용한다는데 더 의미를 두는 경우가 많다는 지적이다.

막연히 “생성AI 없인 회사 낙오 걱정”도 문제

그처럼 성공률이 낮음에도 불구하고, 블룸버그 보고서에 의하면, 불미국 CIO의 66%가 생성AI를 계속 투입하고 있다. 이는 지난해 12월 32%에 비하면 2배가 넘는 수치다. 가장 많이 사용하는 것은 고객 서비스 애플리케이션과 같은 ‘챗봇’ 에이전트였다.

특히 가트너에 따르면, 행여 생성AI를 도입하지 않으면, 수익이 줄어들고 생산성이 떨어질까 걱정하는 경우가 많았다. ABBYY 조사 역시 글로벌 IT 리더의 63%는 “이를 사용하지 않으면 회사가 뒤처질까 봐 걱정”하는 것으로 나타났다. 딜로이트가 조사한 기업의 3분의 2는 “초기 도입 당시 부가가치가 컸기 때문에 투자를 늘리고 있다”는 반응도 보였다.

심지어는 생성AI가 장기적 발전의 방해 요소가 되고 있다는 징후도 포착되고 있다. IBM에 따르면 기술 리더의 47%만이 (생성AI 도입 전) 회사의 IT 기능이 기본 서비스를 제공하는 데 효과적이라고 생각하고 있다. 이는 “생성AI에 주의를 쏟다보니 생겨난 현상”이라는 지적이다.