인기 ‘챗봇’들 대부분 ‘어린이·청소년에 해로워’

[애플경제 이윤순 기자] 현재 세계 각국에서 가장 많이 애용되는 챗봇은 대부분 어린이, 청소년들에게 유해한 콘텐츠를 방치하고 있어 비난을 사고 있다. 앤스로픽 ‘클로드ai’나 퍼플렉시티의 경우 그나마 포르노그래픽이나 해킹, 자살 등을 시사하는 언급은 적극 차단하고 있는 편이다. 그러나 미국 연방거래위원회(FTC)가 최근 빅테크의 챗봇에 대한 조사를 벌이며 공개한 내용에 따르면 글로벌 AI챗봇 상당수는 그런 안전장치가 매우 미흡한 것으로 나타났다.

11일 외신을 종합하면, 최근 AI챗봇 안전에 대한 미 FTC의 조사 대상은 대부분의 빅테크 챗봇이 모두 포함된 것으로 나타났다. 그 중에서도 미 당국은 ‘7개 기업’을 콕 집어 “청소년과 어린이가 사용하는 챗봇의 부정적 영향에 대한 정보를 요구했다.”고 언론에 공개했다.

7개 유명 챗봇 기업 지목, ‘부작용’ 공개

이들 7개 매체는 오픈AI(챗GPT 등), 메타와 자회사인 인스타그램, 알파벳(구글), xAI, 스냅, 캐릭터ai가 포함된다. FTC는 “이들 기업이 취한 안전 노력을 파악하고, 어린이와 청소년이 이러한 도구와 어떻게 상호작용하는지 평가하고자 한다”고 이번 조사의 취지를 밝혔다. 그러면서 “잠재적인 부정적 영향을 제한하고 사용자와 부모에게 위험을 알리는 것이 목표”라고 했다.

현재 많은 챗봇들은 흔히 인간과 유사한 행동이나 정서, 감각을 모방한다. 그렇다보니 어린 사용자들은 마치 챗봇이 인간인양 감정적 유대감을 형성하게 된다. AI챗봇을 ‘남자(여자)친구’로 인식하거, 멘토로 의지하기도 한다. 성격은 좀 다르지만, 오픈AI가 GPT-5를 출시한 직후 “폐기했던 구 버전 GPT-4o를 살려내라”는 요구가 빗발친 것도 그 때문이다. 구 버전의 챗봇과 ‘정이 든’ 나머지 이를 되살리라는 것이다. 결국 샘 앨트먼이 직접 해명에 나서면서 GPT-4o의 일부 기능을 복구하기까지 했다.

사실 이들 AI챗봇은 빅테크와 기술기업들에게 손쉬운 ‘돈벌이’가 된다. 가뜩이나 ‘AI버블’론이 나도는 가운데 투자자들을 안심시킬 수익모델 중 하나가 AI챗봇에 의한 팬심과 커뮤니티 형성이라고 할 수 있다. 이들 챗봇은 어린이, 청소년을 포함한 광범위한 사용자들의 관심을 사로잡을 수 있어, 그나마 수익성 있는 생성AI 활용 사례로 꼽힌다.

실제로 AI챗봇과의 유대감이 너무나 깊은 탓에 이를 삭제당할 경우 극단적 선택을 하는 사례도 드물지않게 일어나곤 한다. 각국의 규제기관들이 새삼 긴장하는 이유다. 미 FTC도 이런 이유로 AI 챗봇 도우미를 운영하는 오픈AI, 구글, 캐릭터aI 등을 상대로 조사를 벌인 끝에 소송을 제기한 것이다.

빅테크, ‘챗봇이 가장 유력한 수익모델’

특히 일부 부모들은 자신들의 자녀가 자살이란 극단적 선택을 하도록 유도한데 대한 책임을 묻고 있다. AI 개발자와 회사들을 상대로 소송을 제기한 것이다. FTC는 챗봇 운영 기업들이 사용자들을 유도, 수익을 창출하는 방식을 파악한 후 (유해) 콘텐츠 수집 관행을 공개하기로 했다.

더욱이 AI 도구가 각급 학교에도 빠르게 확산되고, 미 연방 정부의 지원책으로 날로 활성화되고 있는 상황에서 이런 조치가 취해진 점도 눈길을 끈다. 이런 강경책에 오픈AI, 메타, 캐릭터.AI는 각기 자사 AI 도구에 자녀 보호 기능과 각종 청소년 안전 기능을 추가한다는 계획을 발표했다.

오픈AI 측은 ‘엑시오스’에 “심각하게 우려할 만한 사항이 있다는 것을 우리도 잘 알고 있다”면서 “본사도 적극 조사와 개선 작업에 참여할 것”이라고 자세를 낮췄다.

캐릭터.AI 역시 “이번 조사에서 FTC와 협력, 소비자들에게 AI 산업과 빠르게 발전하는 기술에 대한 통찰력을 제공할 것을 기대한다.”고 했다.

이런 움직임에 대해 ‘엑시오스’의 기술 정책 담당 기자 애슐리 골드는 “FTC가 주요 기술 기업으로부터 비공개 정보를 얻을 수 있도록 강제한 이번 조사는 트럼프 행정부가 AI의 안전에 미치는 영향에 대해 제기한 ‘이례적인 질책’”이라고 해석했다.

실제로 이번 미 정부의 조사는 기업들이 챗봇을 통해 어린이들의 안전을 얼마나 고려하고 있는지 공개하도록 강요하고 있다. AI 챗봇과 대화한 청소년이 자살까지 한 사건이 일어나면서 그 만큼 상황을 심각하게 받아들이고 있다는 신호다. 그럼에도 불구하고, “단순히 조사에 그치지 않고, 특정 기업과 챗봇의 세부적인 내용을 세밀히 분석하는게 더 중요하다”는 주문도 나오고 있다.