오픈AI 샘 앨트먼 “GPT-5, 당분간 개발 안해”

[애플경제 전윤미 기자]오픈AI의 CEO 샘 앨트먼이 “당분간 GPT-5를 개발하지 않을 것”이라고 밝혔다. 이는 일론 머스크를 포함한 미국의 유명한 기술 분야 전문가, CEO, 과학자들이 “GPT-4보다 더 강력한 개발을 6개월 동안 중단할 것”을 요구하는 공개 서한을 낸지 2주 남짓 흐른 뒤의 일이다.

기술매체 ‘와이어드’에 따르면 그는 이날 미 MIT대학 연설에서 “거대한 AI 모델의 시대는 이미 끝났다”면서 이같이 밝혔다. 일단 그는 천문학적 비용이 들지도 모를 초대형 언어모델(LLM) 기반의 생성AI 개발 비용을 이유로 들긴 했다. 그러나 이는 “울고싶은데 뺨때린 격”이란 해석을 낳고 있다. 가뜩이나 막대한 비용을 들이느라, 장차 수익성도 보장할 수 없는 터에 마침 유명인사들이 “6개월 간 개발 중지”를 만천하에 선포, 요구하고 나선 것을 역이용한 셈이다.

“거대 AI모델 시대 끝났다” 선언

실제로 엔비디아 GPU 한 개값이 3만달러에 달하는데, 오픈AI는 이미 GPT-4 개발에만 1억 달러 이상이 든 것으로 알려졌다. 이날 MIT강연에서 “GPT-4 개발비가 얼마냐?”는 청중에 물음에 그는 즉답을 피하면서도, “수조 개의 단어로 된 텍스트와, 수천 개의 강력한 GPU를 사용하여 훈련, 학습했다”고해 사실상 이같은 비용을 추산할 수 있게 한 것도 그런 의도로 풀이된다.

더욱이 GPT-5를 개발할 경우는 그 몇 십배의 돈이 들 수도 있다. 현재 전문가들의 추측대로 수 만, 수 십만개가 소요될 지도 모른다. 그럼에도 개발을 밀고 나갈 경우 아무리 마이크로소프트의 전폭적인 투자 지원을 기대한다고 해도 무리가 따를 수 밖에 없다. 더욱이 시장과 수익성이 그 만큼 뒷받침해주느냐도 문제다. 그런 가운데 마침 기술․과학 분야이 인사들이 공개서한을 통해 요구한 김에 “등 떠밀리듯” GPT-5 개발을 잠정 중단한 것이란 해석이 설득력을 얻고 있다.

앞서 이미 그는 GPT-4를 설명하는 논문에서도 “모델 크기를 대폭 확장할수록 수익이 감소할 것”임을 암시한 바 있다. 또 “오픈AI가 구축할 수 있는 데이터센터의 숫자나, 구축 속도에 물리적 한계가 있다”고 토로하기도 했다.

“모델 대형화가 아닌, 트랜스포머 진화가 대안”

그 때문에 이날 그의 강연 이후 전문가들 사이에선 ‘매개변수 없이 트랜스포머를 더욱 유능하게 만드는 것’이란 새로운 방법론이 주목을 받고 있다. 앨트먼 자신도 이날 “모델을 더 크게 만드는 것으로는 더 이상의 진전이 없을 것”이라며 청중들에게 “거대하고 거대한 모델이 될 시대의 끝에 우리가 있다고 생각한다”고 말했다. 그러면서 그는 “우리는 다른 방법으로 그것들을 더 좋게 만들 것”이라고 덧붙였다.

여기서 ‘더 좋게 만드는’ 방법이 바로 인간 두뇌의 피드백 원리를 응용한 ‘트랜스포머’의 진화라고 할 수 있다. 이 소식을 전한 ‘와이어드’는 “이는 새로운 AI 알고리즘을 개발하고 배포하기 위한 경쟁에서 예상치 못한 반전”이라고 평가했다.

즉, 수많은 매개변수를 전제한 대형 모델링 경쟁 대신 앞으로는 ‘트랜스포머 경쟁’이 일어날 것이란 얘기다. 그 동안 오픈AI가 GPT기술을 내놓은 이후, 구글과 앤트로픽, 코히어, 캐릭터AI 등 크고 작은 경쟁기업들은 더 큰 알고리즘을 구축하기 위해 막대한 자원을 투입해왔다.

1조개 매개변수 ‘GPT-4’, 그럼 GPT-5는?

애초 2019년에 출시된 GPT-2는 지금 기준으로 보면 조잡하기 짝이 없는 인공 뉴런을 연결하는 인공 시냅스, 즉 매개변수가 15억 개였다. 그러나 2020년에 발표된 GPT-2의 후속작인 GPT-3는 무려 1,750억 개의 매개변수로 증가했다. GPT-4의 경우는 오픈AI가 공식적으로 밝히진 않고 있지만, 그 숫자가 약 1조개를 넘을 것으로 추정되고 있다.

앨트먼의 이날 “대형 모델링 경쟁 끝”을 선언한 모습을 본 전문가들도 상당 부분 이에 공감하고 있다. 와이어드는 “전직 구글 AI 엔지니어링이자, 코히어사이 공동 창업자인 닉 프로스트는 (매개변수에 의한 모델링)을 더 크게 키워 가는 기술이 무한정 작동하지 않을 것이라는 앨트먼의 주장은 사실일 것”이라고 인정했다.

인간두뇌처럼 자기조직화하는 ‘복잡계’ 수준이 목표?

즉 “기술 경쟁의 핵심은 스케일링보다는 트랜스포머가 될 것”이란 얘기다. 그에 따르면 트랜스포머를 더 유능하고 유용하게 만드는 것이 중요하다. 이는 “모델에 매개변수를 많이 추가한다고 해서 될 일이 아니란 것”이다. 그 보단 새로운 AI 모델 설계나 아키텍처를 통해 사람(개발자나 사용자)과의 피드백을 기반으로 끊임없이 조정해 나가는 방법이란 얘기다. 나아가선 그런 방법을 통해 사실상 인간 두뇌처럼 스스로 피드백하고, 자기조직화하는 일종의 ‘복잡계’ 차원에 도달하게 하는 것이다.

이날 앨트먼은 다시 한번 “오픈AI가 현재 GPT-5를 개발하고 있다는 항간의 주장은 가짜뉴스”라며 “그런 일은 없고, 앞으로도 한동안 그러지 않을 것”이라고 다짐했다. 그러면서 그는 “미래 인공 지능의 발전을 위해선 새로운 아이디어가 필요할 것”이라고 함으로써 매개변수나 대형 모델링이 아닌, ‘인간과 함께 하는 트랜스포머’ 강화학습 전략을 시사하며 강연을 끝냈다.