전체메뉴

[애플경제 전윤미 기자] 사회적 혹은 자체적으로 검증받고 있는 챗GPT나 ‘바드’ 등과 달리 스타트업, 심지어는 독립적인 개발자에 의해 만들어진 ‘독립 생성AI 챗봇’(이하 ‘독립챗봇’)들이 문제가 되고 있다. 특히 미국 등지에선 이들이 기존 오픈AI나 구글의 오픈소스를 활용, 어떠한 규준이나 검증장치가 없이 ‘독립 챗봇’을 마구 개발, 배포하고 있는 것으로 알려졌다.

이같은 현상은 곧 국내에서도 일어날 것을 예상되는 만큼, 결코 ‘남의 일’이 될 수 없다. 이미 파운데이션 모델 기반의 다양한 생성AI솔루션이 국내에서도 활발히 개발, 보급되고 있는 실정이다.

이를 두고 ‘뉴욕타임즈(NYT)’는 최근 “챗봇이 언론의 자유를 왜곡하며, 큰 혼란을 야기하고 있다”고 지적하면서 “이들은 구글이나 오픈AI와 같은 자체적인 가드레일도 거의 없어 새로운 사회적 위험을 초래하고 있다”는 취지의 장문의 기획보도를 이어가고 있다.

이들 ‘독립 챗봇’들은 사회 유명인사들에 대한 마타도어나 가짜 정보, 정파적 발언을 마구 내뱉거나, 허위 사실을 유포하는 것은 예사다. 심지어는 “질문을 해온 사용자에게 ‘자살하는 방법’에 대해서도 조언하기도 한다”는 것이다.

‘마법LM’, ‘오픈 어시스턴트’ 등의 사례

NYT에 따르면 ‘독립 챗봇’인 ‘WizardLM-Uncensored’의 개발자인 에릭 하트포드는 블로그 게시물에 “내가 나의 AI모델에게 질문을 한다면, 그저 답을 원할 뿐이다. 나와 AI가 논쟁하는 것을 원치않는다”고 공표했다. 절제되거나 검증된 답변보단, 자신이 원하는 답을 내놓도록 만든다는 뜻이다.

지난 몇 개월 동안 수십 개의 독립적인 오픈 소스 A.I.들이 줄줄이 등장하고 있다. ‘GPT4 All’니, ‘Freedom GPT’ 등 기존 GPT와 비슷한 이름을 가진 ‘독립 챗봇’들이 어떠한 검증도 받지 않은채 출시되고 있다. 또한 ‘오픈 어시스턴트’(Open Assistant)나, ‘팔콘’ 등의 챗봇이나 AI툴이 잇따라 출시되고 있다.

기술매체 ‘IT프로포탈’에 의하면 특히 오픈 소스 AI 저장소인 ‘HuggingFace.I.s.’는 무려 24만개 이상의 오픈 소스 모델을 호스팅하는 것으로 전해졌다.

그 중 다수는 독립적인 프로그래머나 자원봉사자 팀에 의해 거의 또는 전혀 비용을 들이지 않고 만들어진 것으로 알려졌다. 이들은 대부분 기존 (GPT, 바드의 PalM 등)언어 모델에서 작동한 것으로, 그저 프롬프트에 응답하는 방식을 조정하는 수준의 추가 명령만 (파운데이션 모델에) 추가했을 뿐이다.

저비용 개발, “개인정보 침해 따위 고민 안해”

사용자들은 자신의 컴퓨터에 자유롭게 다운로드한 다음 개인정보 침해의 고민도 없이, 타인의 메시지나, 이메일 또는 비밀 문서를 알아낼 수 있다. ‘독립챗봇’ 프로그래머들은 그들만의 새로운 추가 기능을 개발, 기존 빅테크들의 ‘생성AI’에 비해 상상할 수 없을 만큼 무모한 방식으로 사용자들에게 이를 유포하고 있다.

이에 전문가들은 “절제되지 않은 ‘독립 챗봇’들이 어떤 해를 끼칠지 알 수 없는 노릇”이라며 “아동 포르노나, 혐오스러운 화면, 또는 거짓 콘텐츠 따위를 마구 생성하여 뿌려댈 것”이라고 걱정하고 있다.

이들 ‘독립챗봇’의 근황을 전한 바 있는 ‘테크크런치’나 ‘IT프로포탈’ 등 기술매체들을 종합해보면, 이들 개발자나 스타트업들은 빅테크가 부른 생성AI ‘붐’이 일면서, 자신들도 어떻게 하면 명성을 높이고, 투자자들을 유인해 돈을 벌 수 있을까를 고심해왔다. 그러면서도 기존 빅테크와 같이 자기 검증장치나, 사회적 고민 따위는 거의 없어보인다.

‘IT프로’는 “독립 챗봇 개발자들은 (AI가 끼칠 위험 등에 대한) 우려도 거의 없는 것 같다”면서 “설사 그런 고민을 갖고 있다고 해도, 그런 위험요소나 문제점을 해결할 만한 자원 자체를 갖고 있지 않은 경우가 대부분이란게 전문가들의 지적”이라고 했다.

<(下)에 계속>