전체메뉴

[애플경제 김향자 기자] 23일부터 트럼프가 경찰관들에게 폭행당하면서 노상에서 체포되거나, 푸틴이 체포되어 재판에 회부된 후 투옥되는 장면이 CNN 화면 등에 방영되면서 놀라움을 안겨주고 있다. 그러나 이는 최근 발달한 대규모 언어모델 AI에 의한 딥페이크 영상이다. 이날 저녁 이 소식을 ‘브레이크 뉴스’ 꼭지로 다룬 CNN도 “가짜 동영상에 속지 말 것”을 당부하기도 했다.

그러나 역시 사진과 함께 이를 전한 AP통신의 해석이 재미있다. AP통신은 24일 같은 내용을 전하면서 “그러나 오보 전문가들은 그 이미지들이 새로운 ‘현실의 전조’라고 경고한다”면서 “주요 뉴스 사건 이후 가짜 사진과 비디오의 물결이 소셜 미디어에 넘쳐나면서, 특정한 사회적 이슈를 앞두고는 사실과 허구를 더욱 흐리게 한다”고 덧붙였다.

CNN ‘가짜’ 경고, AP통신 “새로운 현실의 전조” 해석

지난 2021년 1월 미 의회의사당 난입 사건을 방조 내지 묵인한 것으로 의심받는 트럼프는 현재 연방 수사당국에 의해 이미 내사에 들어간 상태다. CNN 역시 이런 ‘현실의 뉴스’와 함께 문제의 해당 동영상을 내보내기도 했다.

국제형사재판소(ICC)도 최근 러시아 푸틴 대통령을 최근 우크라이나 어린이들을 유괴, 인신매매 행위를 했다는 내용의 전쟁범죄 혐의로 공개 수배하기도 했다. 그러나 이는 전혀 사실 무근의 모함이며, ICC의 월권행위로서 일고의 가치도 없다는게 러시아 당국의 얘기다.

이같은 현실을 좀더 극단적으로 패러디한 것이 이같은 딥페이크 영상으로 만들어져 유포되고 있는 것이다.

동영상을 보면, 트럼프 전 대통령이 진압복을 입은 뉴욕시 경찰관들에게 집단 폭행을 당하고 있다. 또 희미하게 켜진 콘크리트 감방의 창살 뒤에서 회색 죄수복을 입은 푸틴 러시아 대통령의 모습이 보인다.

트럼프가 범죄 혐의 가능성에 직면하고 국제형사재판소가 푸틴에 대한 체포영장을 발부했다는 소식이 전해지는 가운데, 이처럼 구체적이고 선정적인 이미지는 최근 며칠 동안 트위터와 다른 플랫폼을 타고 널리 퍼졌다.

물론 그 어느 것도 사실이 아니다. 이는 최근 출시된 달리(E) 이미지 기법이 가미되어, 매우 섬세한 기술의 변형을 거친 것들이다. “생성AI의 이미지 생성기를 사용하여 이처럼 고도의 딥페이킹 기술이 발달한 결과”라는 설명이다.

미드저니 텍스트-이미지 합성 모델의 새로운 버전 결과

알고보니 이 사진과 동영상은 특히 미드저니(Midjourney)나, ‘DAL-E’ 등의 AI 이미지 생성기 도구를 활용한 것이어서 더욱 화제가 되고 있다. 보통 평범한 사용자라도 이를 활용하면, 단순한 텍스트 프롬프트만으로 이처럼 대규모의 사실적이고 섬세하며 실제와 똑같은 이미지를 신속하게 생성할 수 있게 된 것이다.

특히 최근 출시된 미드저니는 텍스트-이미지 합성 모델의 새로운 버전으로 지금껏 있었던 그 어떤 합성기술보다 출중한 것으로 알려져있다. 이번 동영상 역시 기존 언론에 보도된 사진의 스타일을 모방하여 실제와 흡사한 이미지를 생성한 것으로 전해진다.

이번에 널리 유통된 해당 동영상은 네덜란드에 있는 탐사 저널리즘 단체인 ‘벨링캣’의 설립자 엘리엇 히긴스의 ‘작품’으로 밝혀졌다. 히긴스는 트럼프가 체포되는 가상 영상을 만들기 위해 수십 개의 극적인 이미지를 떠올리기 위해 최신 버전의 도구를 사용했다.

수많은 네티즌에게 공유된 영상에는 제복을 입은 경찰관들이 트럼프를 낚아채고 제압하면서 난폭하게 인도로 끌어내리는 모습이 담겨 있다. 또 푸틴이 체포되어 재판에 회부된 후 투옥되는 일련의 사진들도 있다. 이에 대해 영상을 만들었던 히긴스는 “악의 없이 사진을 올렸다”면서 자신의 트위터 스레드를 통해 “그 이미지들이 인공지능에 의해 생성되었다고 분명히 밝힌 바 있다”고 했다.

네덜란드 탐사 저널리스트의 작품으로 밝혀져

미드저니를 활용해 문제의 영상과 사진을 합성한 히긴스는 “트럼프 체포 이미지는 미드저니가 실제 장면을 얼마나 잘 가공하는지를 여실히 보여주고 있다”면서 “하다보니 프롬프트를 연결하면서 이미지가 일종의 ‘이야기’를 형성하기 시작해서, 그들을 하나의 플롯으로 묶어 마무리하기로 결정했다.”고 동기를 밝혔다.

그럼에도 그는 “이미지가 완벽함과는 거리가 멀다”고 지적했다. 실제로 사진을 보면 어색하게도 트럼프가 경찰 유틸리티 벨트를 착용하고 있는 것으로 보인다. 또 다른 사람들은 얼굴과 손이 확연히 표시가 날 정도로 일그러져 있다.“고 밝혔다.

그러나 히긴스의 이같은 행동에 대한 비판도 만많찮다. 미국의 인권단체 위트니스는 CNN ‘브레이크 뉴스’에 출연해 “사용자들이 AI로 이미지를 생성하고, 즐길거리 내지 엔터테인먼트용으로만 사용된다고 각종 게시물에서 분명히 명시한다고 해서 이런 행위가 정당화될 수는 없다”고 꼬집었다.

그는 “너무나 자주, 이런 이미지 자료들이 중요한 맥락도 없이 수많은 타인들에 의해 빠르게 재공유된다”고 폐해를 강조했다. 실제로 히긴스의 트럼프 영상을 진짜인 것처럼 공유하는 인스타그램 게시물은 7만9천건 이상의 ‘좋아요’를 얻었다.

푸틴이 시진핑에 무릎꿇고 손에 키스 장면도

앞서 또 다른 영상에선 푸틴이 무릎을 꿇고 중국 지도자 시진핑의 손에 키스하는 것으로 추정되는 합성 이미지가 공유되었다. 이 역시 각종 소셜미디어를 타고 널리 유포되었다.

그저께 푸틴 대통령이 크렘린에서 시 주석을 환영하던 무렵부터 유포된 이 이미지는 순식간에 온갖 잡다한 밈을 거듭하며, 마치 ‘진짜’ 뉴스인양 퍼져나갔다.

누가 그 이미지를 만들었는지, 어떤 도구를 사용했는지는 분명하지 않지만, 이는 ‘위조품’인지 어렵잖게 알 수 있었다. 예를 들어 두 정상의 머리와 신발이 약간 일그러져 있거나, 실제 회담이 있었던 방과 실내 인테리어가 맞지 않는다는 점 등이 그렇다.

어쨌든 이런 합성 이미지가 실제 이미지와 구별하기가 점점 더 어려워짐에 따라 이를 식별하기 위한 대중적 인식을 높이고 이를 위한 교육이 중요하다는게 전문가들의 견해다.

위트니스 관계자는 “이러한 이미지들을 만드는 것은 매우 쉬워졌고, 저렴하기 때문에 대중들이 이런 기술에 대한 이해를 높이기 위해 할 수 있는 방안을 다각도로 모색해야 할 것”이라고 주문했다.

미국 시애틀 워싱턴 대학의 제빈 웨스트 교수도 AP통신과의 인터뷰에서 “이는 특정한 이슈가 불거진 상황에서 ‘소음’이 증가한 결과이며, 이는 또한 냉소주의를 더욱 광범위하게 강화시킬 것”이라면서, “그럴수록 대중은 자신이 접한 시스템과 정보에 대한 신뢰를 잃기 마련”이라고 지적했다.

한편 이에 대해 AP통신은 자체적으로 각종 인터넷상의 생성AI 딥페이크 영상에 대한 검증작업을 시도, ‘거짓’ 또는 ‘내용 누락’으로 분류하고 있다. 정작 거대 소셜미디어인 페이스북과 인스타그램의 모회사인 메타는 이번 일에 입을 다물고 있다.