전문가 “대량의 강화학습만으론 인간의 결함과 실수를 쉽게 모방”
“없거나 틀린 답변 반복”…일부 개발자들 챗GPT 생성 답변 ‘사용 금지’
“기능 개선, ‘킬러 서비스’ 없이는 ‘존재’ 없어진 ‘클럽하우스’ 전철”
[애플경제 김향자 기자] 오픈AI의 챗GPT가 큰 반향을 불러일으키고 있다. 초대형AI의 위력과 함께 차세대 인공지능의 가능성을 보여주면서 다양한 전망도 곁들여지고 있다. 그러나 전문가 일각에선 아직은 해결되지 못한 기능적 한계가 많고, 이를 해결하지 못하면 장래가 불투명하다는 지적도 일고 있어 눈길을 끈다.
챗GPT는 강화학습을 통해 마치 사람과 대화한다는 착각을 불러일으킬 정도로 성능이 우수하다. 그래서 구글의 검색 엔진이 위기감을 느낄 만큼, 위력적인 존재로 부각되고 있다. 그러나 “이는 아직 완성도가 미흡하고, 의도치 않은 편향이 존재해 위험을 내포하는 등 한계와 부작용이 많다”는 비판이 국내에서 제기되고 있어 관심을 끈다.
‘부정확한 결론, 오류 가능성 커’
한국지능정보사회진흥원 AI-미래전략센터의 김태원 연구위원은 “예를 들어 2021년 이전의 데이터로 학습하며, 2022년 이후 일어난 사건에 대해서는 부정확하게 답변하며, 대규모 학습 데이터를 기반으로 하다보니 잘못된 정보나 편향된 콘텐츠를 생성할 수 있는 우려도 크다”며 이같이 지적했다. 또 “한글보다 영어 데이터가 많기 때문에 영어로 된 질문에 더 정확하게 대답한다”는 점도 한계로 꼽았다.
비단 그의 지적뿐 아니라, 개발사인 오픈AI조차도 당사의 제품 설명을 통해 일부 문제점과 한계를 안내하고 있다. IT개발자들이 커뮤니티인 ‘스택오버플로우(Stack Overflow)’에선 매우 구체적으로 그 한계나 기술적 문제를 지적하며, 심지어는 챗GPT의 일부 기능에 대한 사용금지를 공론화할 정도다.
김 연구위원이 지적하는 내용을 보더라도, 챗GPT에 대한 시중의 찬사나 언론의 보도가 과장되었다는 느낌을 가질 정도다. 인간들이 가진 정보와 정서의 피드백에 기반한 강화학습의 결과다보니, 인간의 결함과 실수를 쉽게 모방할 것 같은 걱정은 너무나 당연한 것이다. 심지어는 답변이 꽤 논리적으로 보이나 잘못된 정보이거나 무의미한 내용일 가능성이 크다는 얘기다.
김 연구위원은 이른바 ‘할루시네이션(hallucination) 이슈’, 즉 AI가 존재하지 않는 환각을 보는 것처럼 없는 답변이나 틀린 답변을 제시하는 현상과도 비교했다.
‘오픈AI’ 스스로 “문제점과 한계 많아” 토로
실제로 오픈AI 웹사이트에서는 진실에 대한 출처가 없는 강화학습의 특징에 따른 챗GPT의 한계를 기술하고 있어 김 연구위원의 이런 분석을 뒷받침하고 있다. 그는 “챗GPT는 오답률이 높고. 일반적으로 그럴듯해 보이지만 수준이 높지 않은 경우가 많다”면서 “개발자들의 질의응답 사이트인 ‘스택오버플로우(Stack Overflow)’는 챗GPT를 통해 생성한 답변을 등록하는 걸 당분간 금지하고 있다”고 전했다.
그렇다보니 상품가치로서의 한계도 지적되고 있다. 현 상태로는 오픈AI나 이를 제품화한 MS가 지속가능한 수익을 창출하기 어려울 것이란 얘기다.
챗GTP는 출시 직후에 폭발적인 반응을 불러 일으키며, 초단기간에 100만 사용자를 모았고, 현재 5억 명 넘게 사용할 것이라는 추정도 있다. 그러나 “현재까지 무료 서비스로서 이렇다 할만한 수익 모델이 없다는 점은 한계”라는 지적이다.
김 연구위원의 팩트체크에 따르면 100만 사용자를 확보하는데 넷플릭스는 3.5년, 에어비앤비는 2.5년, 페이스북은 10개월이 소요된 데 비하면 획기적이다. 이들은 현재 글로벌 비즈니스 모델 시장을 장악하는 초국가 기업으로 자리를 잡고 있다.
반면에 지금은 ‘존재’가 없어진 클럽하우스와 같은 사례도 있다. 이는 2021년 초 출시 당시 멤버십 스타일의 신종 소셜미디어로 큰 인기를 끌며, 한때 초대장이 수만 원에 거래될 정도였다. 그러나 지속적으로 즐길 수 있는 콘텐츠 생산에 한계를 드러내며 사용자가 급감하면서, 지금은 그 존재조차 희미해진 상태다.
상품가치도 희박, 구체적 수익모델 필요
다시 말해 챗GPT도 클럽하우스의 전철을 밟지 말라는 법이 없다는 전망이다. 초단기간 100만명을 끌어낼 정도의 인기는 무료 서비스로서 누구나 쉽게 가입할 수 있고, 질문 방식을 통한 단순한 사용법, 우수한 답변 성능 등으로 흥미를 끌며 사용자들이 온라인상에서 공유·확산했기 때문이라는 해석이다. 그러나 구체적인 수익 모델이 없는 상황에서 단기간 사용자 수를 확보하는 것만으로 ‘장밋빛 미래’를 보장할 수는 없다는 분석이다.
그래서 챗GPT는 단기간 사용자 확보를 통한 상업적 성공을 미리 예단하기보다는 ‘생성 AI의 시작을 알리는 계기’라는 점에 무게를 두는게 바람직하다는 해석이 설득력을 얻고 있다. 또 ‘You.com’, ‘Perplexity.ai’ 등과 같이 챗GPT와 유사한 기능을 제공하는 서비스도 출시되고 있는 것도 또 하나의 변수가 되고 있다.
김 연구위원은 “앞으로 오픈AI는 유료 서비스 버전(ChatGPT Professional)을 출시할 예정이지만, 이 역시 단순 기능 확장에 그칠 것으로 보인다”면서 “지속 가능성을 담보할 수 있는 ‘킬러 서비스’를 개발해야만 앞날을 기약할 수 있을 것”이라고 평가했다.