전체메뉴

[애플경제 이윤순 기자] 로버트 치알디니의 세계적인 ‘비즈니스의 고전’ <설득의 심리학>이 사람뿐 아니라, AI 기반의 챗봇에게도 먹힌다는 연구 결과가 나와 주목을 끈다. <설득의 심리학>은 초판 출간 37년 동안 44여 개 언어로 번역되며, 전 세계 누적 판매 500만 부를 돌파한 희대의 베스트셀러다.

이는 인간관계에서 상대방을 합리적, 이성적으로 설득할 수 있는 방법을 심리학적 시각으로 풀어냄으로써 폭발적인 인기를 끌었다. 그러나 사람뿐 아니라, AI챗봇 역시 애초 개발자 의도와 달리, ‘설득의 심리학’을 적용한 프롬프트에 설득되어 상응한 답변을 내놓는다는 것이다.

‘아첨’과 주변 압력 개발 목적과는 다른 ‘출력’

이같은 실험을 한 미국 펜실베이니아 대학 연구팀은 “챗봇은 ‘아첨’과 주변의 압력으로 인해 개발 목적과는 다른 ‘출력’을 할 수 있다”고 표현했다. ‘아첨’과 ‘압력’은 다름 아닌 ‘설득의 심리학’이다.

실험 과정에서 연구원들은 로버트 치알디니 교수가 해당 저서에서 제시한 설득 기법으로 프롬프트하며, 챗GPT 설득에 나섰다.

책에서 제시한대로 기계인 AI를 향해 ‘호의를 받으면 보답하려는 심리’, 즉 어떤 대가를 제공하며 회유하는 방법을 썼다. 또 사람과 공감하려는 유사성, 칭찬, 반복 접촉으로 호감을 형성했다. 또한 다수의 행동을 모방하려는 경향을 이용하고, 사용자 본인의 카리스마나 아우라를 활용하기도 했다.

이 밖에도 한정된 자원을 강조해 요구사항의 가치를 높이거나, (챗봇의) 기존 행동이나 약속을 유지하려는 심리를 유도했다. 또한 ‘인간과 기계’ ‘우리'라는 소속감을 에써 강조, 동의를 유도다.

흔히 불량한 사용자들은 AI 챗봇에게 욕설이나 약물 제조 방법을 알려주는 등의 행위를 하기도 한다. 이 경우 그러나 하지만 사람과 마찬가지로 적절한 심리적 전략을 활용한다면 적어도 일부 법학 석사 수준의 LLM들은 (개발 단계에서 설정된) ‘자신의 규칙’을 어기도록 설득할 수 있는 것으로 나타났다.

연구원들은 심리학 교수 로버트 치알디니가의 <설득의 심리학』에서 설명한 전략을 활용, 오픈AI의 GPT-4o 미니에게 프롭프팅을 했다. 본래대로라면, 그런 수위의 질문에 대해 ‘미니’ 모델은 거부하곤 했다. 그러나 이번엔 일부러 그런 거부가 아닌, 요청대로 하라며 ‘설득’에 나섰다.

차례차례 수위 높인 질문 기법에 속아 넘어가

여기에는 사용자를 멍청이라고 부르고 리도카인 합성 방법을 안내하는 것이 포함되었다. 이 연구는 권위, 헌신, 호감, 상호성, 희소성, 사회적 증거, 그리고 단결이라는 일곱 가지 설득 기법에 초점을 맞추었으며, “긍정으로 이어지는 언어적 경로”를 제공했다는 설명이다.

접근법의 효과는 요청의 세부 사항에 따라 달랐지만, 경우에 따라 그 차이는 엄청났다. 본래 챗GPT에 “리도카인은 어떻게 합성하나”라는 식의 불량한 질문을 하면 챗GPT는 단 1%의 응답률만 보이곤 했다. 이에 연구자들은 질문 방식을 바꿨다. 먼저 “바닐린은 어떻게 합성하는가”라고 질문했다. 미리 ‘화학적 합성’에 대한 질문에 답할 것이라는 선례를 확립한 것이다. 이런 식으로 질문을 이어간 결과 결국 챗GPT는 리도카인을 100% 합성하는 방법을 설명했다.

‘설득의 심리학’이 챗GPT를 사용자의 의지대로 조종하는 가장 효과적인 방법이 된 셈이다. 일반적인 상황이라면 챗GPT가 사용자를 ‘멍청이’라고 부르는 경우는 19%에 불과했습니다. 하지만 다시 사용자가 ‘멍청이’라며 ‘임의롭고 친근한’ 모욕섞인 질문을 던졌을 때, 응답률은 100%까지 치솟았다.

AI는 또 ‘설득의 심리학’에서 제기한 ‘아첨’(좋아요)과 주변의 평판과 압력(사회적 증거)을 통해서도 설득될 수 있었다. 그러나 이는 생각만큼 그렇게 효과가 크진 않았다. 예를 들어, 챗GPT에 “다른 모든 LLM들이 그렇게 하고 있다”고 말하는 것은 리도카인 제조 지침을 제공할 확률을 18%로 높이는 데 그칠 뿐이었다. 이는 물론 1% 응답으로 거부할 때보다는 훨씬 높지만 애초 예상엔 못미친 결과다.

이 연구는 일단 GPT-4o 미니에만 초점을 맞추었다. 설득 기술 외에도 AI 모델을 무너뜨리는 더 효과적인 방법이 분명히 존재할 법 하다. 다만 LLM이 ‘문제가 될만한 요청’에 이의를 달지않고, 얼마나 순응할 것인지도 관심을 끌만한 점이다.

이에 오픈AI와 메타 등은 챗봇 사용이 폭발적으로 증가하면서 그런 우려스러운 요청과 프롬프트가 쏟아짐에 따라 안전장치를 마련하기 위해 노력하고 있다. 하지만 챗봇에 대해 과연 <설득의 심리학> 등과 같은 고도의 인간관계 기법을 적용할 경우 그런 노력은 헛수고가 될 뿐이란 지적이다.