“클로드, AI챗봇 중 ‘정서적 사용’ 기능 가장 우수”
연구기관 분석, “아직 서툴지만 감정적 소통도 가능”
“장차 정신 건강 치유 위한 ‘동반자’적 기능도 추구”
[애플경제 이윤순 기자] AI챗봇이 인간과 ‘감정’을 교류하거나, ‘공감’을 표시할 수 있을까. 최근까지 챗GPT 등에선 사용자가 “안녕”, “감사” 등의 인사말이나, 정중한 존칭의 프롬프트로 챗봇에 대한 ‘에티켓’을 표할 경우 오히려 ‘전력 낭비’라는 지적이 따르기도 했다. 챗봇은 이런 인간의 호의를 정확히 감지하지 못한다는 얘기다.
그러나 최근 앤스로픽의 ‘클로드’가 그런 수준을 뛰어넘어 인간과 ‘감정’을 주고받거나, 감정적 치유와 상담까지 가능하다고 해서 눈길을 끈다.
챗봇과 대화 진행할수록 심리적 안정
최근 앤스로픽 또 다른 연구기관과 실시한 분석 결과에 따르면, 앤스로픽의 ‘클로드’ 챗봇과 ‘감정적 사안’에 대해 이야기하는 사람들은 대화가 진행될수록 더욱 심리적으로 긍정적인 모습으로 변한다. 챗봇은 본래 감정적 교감을 위해 설계된 것은 아니다.
물론 24시간 내내 (챗봇을 곁에 두면서) 외로움을 덜 느낄 수는 있다. 그러나 때론 망상적인 행동을 하거나 자해를 조장하는 등 부작용이 많았다. 특히 정신 건강 문제로 어려움을 겪는 청소년이나 성인에게 심각한 문제를 일으키기도 한다.
이에 이번 결과는 사용자들이 어떻게 챗봇을 통해 감정적으로 소통하고, 그 결과 챗봇을 이용함으로써 사용자들에게 어떤 일이 일어나는지 분석한 것이어서 주목된다.
사용자들이 클로드나 챗GPT와 같은 AI 봇을 통해 감정적 소통, 즉 하소연이나 고민상담 등을 하려는 사례는 많다. 그러나 AI 개발업체가 스스로 그런 활용 사례를 분석해, 챗봇의 감정 능력을 분석한 것은 이번이 처음이다.
사용자들은 흔히 상담을 위해 클로드를 이용하기도 한다. 진로를 모색하거나, 개인적인 성장을 도모하거나, 애정 문제를 의논하는 등 사연도 여러 가지다. 이같은 ‘정서적 사용’은 최근 챗봇이 생활화되면서 급속히 늘어나고 있다. 그러나 대부분의 챗봇은 사용자들의 그런 욕구에 부응하지 못한다. 유독 앤스로픽의 ‘클로드’가 인간의 감정적, 심리적 필요에 부합한 감정적 교류를 할 수 있다는 설명이다.
물론 사용자들 모두가 챗봇을 마치 삶의 동반자나 친구로 여기진 않지만, 상당수 대화는 그런 ‘정서적 사용’과 맞닿는 것이다. 특히 클로드의 경우는 오랜 대화 과정에서 자연스레 상담이나 조언을 하다가, 결국 기계와 인간이 ‘감정적 동화’를 보이며, ‘동반자 관계’로 전환된다는 얘기다.
“지속적 치유로 이어진다고 확신할 순 없어”
또 ‘클로드’와의 대화가 진행됨에 따라 사용자도 점차 감정이 더 긍정적으로 변한다. 해당 연구에 참가한 한 인류학자는 “챗봇과의 이런 대화가 지속적인 정서적 치유로 이어진다고 단언할 수는 없다”면서도 “그렇다고 감정적으로 부정적 현상은 결코 나타나지 않은 것을 보면 분명 감정적 소통이 일어나고 있는게 확실하다”고 ‘엑시오스’에 밝혔다.
물론 앤스로픽은 “이런 AI와의 감정적 동반자 관계가 가까운 시일 내에 실제 인간과의 완전한 ‘감정적 소통’ 단계에까지 이르진 않을 것”이라며 “대부분의 사용자들은 여전히 업무와 콘텐츠 제작에 클로드를 사용하고 있다”고 했다.
실제로 이 회사가 조사한 바에 따르면 클로드와의 상호작용 중 ‘정서적 사용’ 비율은 전체 사용자의 3%도 채 안된다. 감정적 동반자 관계와 역할 분담을 합친 비율은 전체 대화의 0.5%였다. 특히 개발자들이 결코 권하지 않는, 낭만적이거나 성적인 역할 담당은 0.1% 미만이었다.
앤스로픽은 이를 위해 작년에 출시한 도구인 클리오(Clio)를 통해 클로드 사용자들의 행동을 분석했다. 클리오는 구글 트렌드와 유사하게 작동하며, 개인 식별 정보는 제거하면서 채팅 내용을 집계하는 도구다. 특히 ‘클로드’의 채팅을 익명화하고 집계하며, 특정 대화는 비공개로 유지하면서 더 광범위한 추세를 보여준다.
이는 구글이 개인 검색 기록을 공개하지 않고(또는 사람이 접근할 수 없도록) 사람들이 무엇을 검색하는지 추적하는 방식과도 유사하다. 이 연구에서는 스토리 작성, 가상 대화, 블로그 게시물 또는 기타 콘텐츠에 초점을 맞춘 대화는 제외했다.
또 역할 담당이 포함된 대화 중에서 ‘의미 있는 상호작용’ 채팅, 즉 4개 이상의 사람 메시지가 포함된 대화만 분석했다. 그 결과 “인터넷에는 챗봇을 이용하여 치료 비용을 절감했다고 주장하는 사람들이 넘쳐나지만, 정작 챗봇은 사용자를 만족시키는 데만 급급해 하기 때문에 ‘치료사’로는 적합하지 않다는 증거가 많다”고 했다.
의사이기도 한 또 다른 연구원은 보고서에서 “(챗봇에 의해) 단기간에 불안, 스트레스, 우울증을 완화하는 것만으로는 충분하지 않기 때문에 장기간에 걸친 대규모의 엄격한 임상시험이 필요하다”면서 “지속적인 효과가 중요하다. 따라서 (클로드의 감정 치유) 목표에 도달할 것이라고 확신하지만 아직은 아니다.”고 했다.