전체메뉴

이젠 누가 누구를 손가락질 할 것도 없다. OS나 브라우저 작동에 대한 최소한의 이해만 있으면 누구라도 순식간에 딥페이크 음란물을 만들거나, 퍼나를 수 있다. 누구든 진실재로부터 두 세 단계 떨어져있는 흐릿한 가짜들, 그러나 진짜보다 더 진짜같은 가짜를 뚝딱 만들어낼 수 있는 것이다. 엔비디아 젠슨 황은 얼마전 “가까운 미래엔 만인이 AI개발자가 될 것”이라고 예고했다. AI가 공기처럼 삶의 모든 부위를 숨쉬게 한다는 뜻이다. 허나 이대로 뒀다간 만인이 AI개발자가 아니라, 딥페이크 성범죄의 공범 내지 방관자가 될 판이다.

딥페이크는 이제 기술이랄 것도 없다. 인터넷 공간엔 그 친절하고 자세한 매뉴얼이 널려있다. 모든 운영체제를 망라하는 무료 또는 유료 앱과 웹사이트가 사이버 공간에 넘쳐난다. 청소년 등 초보자들도 사진이나 동영상만 있으면 딥페이크를 만들고 편집할 수 있는 앱도 부지기수다. 특히 ‘텔레그램 딥페이크 봇’은 최근 범국민적 분노를 일으킨 주범이라고 해도 할 말 없다. 그야말로 간단하게 딥페이크를 쉽게 만들 수 있는 특별한 인앱 서비스다. 도깨비 놀음처럼 전혀 무관한 제3자의 얼굴로 둔갑시키거나, 표정을 바꿀 수 있다. 성적으로 농락하고싶은 대상자의 얼굴이나 사진을 업로드하면, 무료 봇이 바로 딥페이크 동영상을 배설해낸다. 사이버 성범죄자들은 그런 영상을 공유하고 낄낄대면서 악마의 놀음에 취하곤 한다.

이에 대한 범지구적 분노 탓일까. 딥페이크 성범죄의 온상으로 치부되었던 텔레그램이 마지못해 한 발 물러섰다. 프랑스에서 체포된 텔레그램의 CEO 파벨 두로프가 “운영 매뉴얼을 상당 수준으로 개선하겠다”고 했고, 회사 차원에서도 “비공개 ‘채팅’을 관리자에게 신고할 수 있도록 할 것”이라고 약속했다. 필요할 경우 운영진이 콘텐츠를 ‘관리’하며, ‘익명’의 울타리를 걷어낼 것처럼 했다. 마이크로소프트도 나섰다. 소셜 플랫폼 최초로 빙(Bing) 검색에서 이미지 삭제 도구를 제공하기로 한 것이다. 딥페이크 성범죄에 치를 떨고 있는 한국의 최근 분위기가 이에 영향을 끼쳤을 것으로 생각하고 싶다.

딥페이크 생성물은 그 어떤 살인 도구보다 흉악하다. 수많은 사람들을 자신도 모르게 숱한 사이버 성범죄자들의 노리개로 노출시킨다. 주로 여성인 피해자들은 그 사악하고 끈질긴 사이버 굴레에서 좀체 벗어나기 어렵다. 상상조차 하기 싫은 자신의 모든 것이 흉측한 관음증 환자들의 충혈된 시선에 고스란히 노출된다. 완전한 삭제가 애시당초 힘들다보니, 자칫 평생을 가위눌린채 살아갈 수 밖에 없다. 그런 점에서 이들 사이버 성범죄자들은 인간이길 포기한 자들이다. 연쇄살인범만큼 악랄하고, 그 죄질은 오히려 더 무겁고 야비하다. 엇나간 기술문명의 악의 고리가 만든, 악질적 시뮬라크르의 시대라고 해야 하나. 가공된 현실이 실제 현실을 압살해버린 꼴이다.

자연적 본래적 시뮬라크르는 그저 아름답다. 끊임없이 유동적인 현실세계로부터 유출된 것들을 재료로 한 사유와 탐구, 학문, 문학, 예술도 그에 속한다. 현실을 재해석, 재창조해내는 감성적 언표는 감히 예술사회학 등등의 논리적 언어론 해석하기 힘들다. 마냥 아름답고 숭고할 뿐이다. 그런 긍정적 맥락의 시뮬라크르는 원본 그대로의 현실보다 더욱 살아갈만한 현실을 재생해낸다. 더 큰 희망과 의미와 가치를 부여하며, 그야말로 꼭 살아봄직한 현실을 생성해내는 것이다. 그러나 그 반대편의 작위적으로 가공된 시뮬라크르가 문제다. 삶과 현실을 배배 꼬아 만든 시뮬레이션 행위, 즉 가짜가 진짜를 밀어낸 시뮬라시옹이 그 전면을 채우고 있다. 살인사건을 보고 영화를 만드는게 아니라, 영화를 보고 살인을 저지르는 꼴이다. 그처럼 악의적으로 가공된 시뮬라크르가 곧 AI딥페이크요, 독약처럼 치명적인 것들만을 발췌, 가공한 시뮬라시옹이 곧 AI딥페이크 성범죄다.

그야말로 인간을 위한 AI가 아닌, AI가 만든 질서에 인간이 복무하는 꼴을 미리 보는 것같다. 그럼에도 분명 AI가 결코 쉽게 흉내내기 힘든 인간의 본성은 있다. 굳이 꼽자면, 바로 긍정적 맥락의 시뮬라크르 재능이라고 할까. 기계로 학습된 이성이나 암호화된 자연언어로는 흉내내기 어려운, 인간의 언어와 이성, 감성이 버무려진 제네시스적 능력이다. 그러나 그런 능력이 인간의 또 다른 사디즘적 광기나 탐욕과 어우러지면 얘기가 달라진다. 물신(物神)이 지배하는 천민 자본주의와 테크놀로지의 무분별한 합성이 그렇듯이, 약물중독과 같은 혼돈의 삶이 펼쳐진다. AI 기반의 ‘지옥의 문’이 열리고, 흉측한 묵시록이 현실로 실현되는 것이다.  AI딥페이크 성범죄야말로 그것을 향한 말세적 현상이다.