바이든의 성차별 발언?, 거칠게 ‘체포’ 당하는 트럼프?

[애플경제 전윤미 기자] 상대 후보자가 스스로 “나는 자격이 없어 자진 사퇴한다”는 영상을 올리거나, 진보적이고 개방적 성향의 후보가 성차별 발언이나, 트랜스젠터를 혐오하는 연설이 소셜 미디어에 오르내리면 선거의 판도가 크게 흔들릴 수도 있다. 그러나 이 모든 것이 생성AI에 의해 만들어진 가짜(fake) 영상일 경우 문제는 심각하다.

바이든, 트럼프 둘러싼 가짜 콘텐츠 범람

2024년 대통령 선거를 앞둔 미국에선 실제로 이런 가능성이 언급되며, 생성AI가 선거 결과를 크게 왜곡할 수도 있다는 우려가 팽배하다. 이미 차기 대선에서 맞붙을 것으로 보이는 바이든 대통령이나 트럼프 전 대통령에 관한 가짜 동영상과 이미지가 난무하고 있는 실정이다. 이는 비단 미국 뿐 아니라, 내년 총선을 앞두고 있는 우리나라도 예외가 될 수 없다는 점에서 크게 주목할 만한 현상이다.

14일(현지시각) AP통신은 “최근 인공지능의 발전 덕분에, 실물과 같은 사진이나, 비디오, 오디오를 만들 수 있는 도구(tool)는 이제 누구나 저렴하고 쉽게 사용할 수 있다.”면서 “AI 전문가들과 정치학자들은 이 새로운 도구들이 내년 미국 선거에 중요한 영향을 미칠 것으로 본다”고 우려했다.

실제로 컴퓨터 공학자나 정치 전문가들은 이미 수 년 전부터 값싸고 강력한 인공 지능 도구들이 곧 유권자들을 속이고, 경우에 따라선 선거를 좌우할 만큼 실제와 똑같은 가짜 이미지나 비디오, 오디오를 만들 수 있을 것이라고 경고해 왔다.

그 동안의 컴퓨터 합성 이미지들은 어딘가 어설프고, 의심스러운 경우가 많았다. 그러나 이젠 옛날 얘기가 되어버렸다.

최근 등장한 정교한 생성 AI 도구는 이제 최소한의 비용으로 복제된 인간 음성과 초현실적인 이미지, 비디오 및 오디오를 불과 몇 초 만에 만들 수 있다. 그것도 거의 실제 이미지나 영상과 똑같은 수준의 사실감을 지닌 것들이다.

이런 이미지들이 페이스북이나 트윗, 틱톡 등을 통해 멀리, 그리고 빠르게 확산되며 유권자들을 현혹시킬 수 있다. 또한 특정 계층이나 집단에 속한 시청자를 대상으로 매우 비열(dirty tricks)하고도 새로운 기법의 속임수를 선거 전술로 동원할 수도 있다.

AP통신 ‘AI 탓, 2024년 정치적 위기’ 우려

이에 AP통신은 이날 ‘AI의 유권자 오도, 2024년 정치적 위기 초래’(AI presents political peril for 2024 with threat to mislead voters) 제하의 톱기사를 통해 “생성 AI는 표적이 된 유권자에게 가짜 이메일이나, 문자, 비디오를 생성해 실시간으로 살포하며, 유권자를 오도하고 후보자를 사칭하며, 여지껏 전례가 없었던 수준으로 선거를 훼손할 수 있다”고 경고했다.

인공지능 전문가들은 실제로 그런 가짜 콘텐츠가 대규모로, 그리고 소셜 플랫폼을 통해 실시간으로 배포될 경우 얼마든지 선거 판도를 좌우할 수 있을 것으로 우려하고 있다. 투표소에 가는 길에 우연히 본 스마트폰 영상을 보고 지지 후보를 순식간에 바꿀 수도 있는 것이다.

이들 전문가들은 내년 미국 대선에서 생성AI가 유권자를 혼란스럽게 하거나 후보자를 비방하며, 심지어 폭력을 선동할 목적으로 만든 합성 미디어가 난무할 것으로 예상하며, 몇 가지 사례를 들었다. AP통신을 통해 제시된 이들 사례는 총선과 대선을 앞둔 우리로서도 새겨볼한 것들이어서 특히 주목을 끈다.

대표적으로 실제 후보자의 목소리로 유권자들에게 잘못된 날짜에 투표하도록 지시하는 자동화된 로보콜 메시지가 있다. 또 스스로 자신의 범죄를 자백하거나, 인종차별적인 견해를 표현하는 후보자의 오디오 녹음이 등장할 수도 있다.

상대당 후보자가 스스로 낙마했다고 거짓 주장을 펴는 장면도 있을 수 있고, 그런 것들이 마치 뉴스 보도처럼 보이도록 디자인된 가짜 이미지도 기승을 떨것으로 보인다.

인공지능 관련 시민단체인 미국의 ‘알렌 AI연구소’는 “만약 일론 머스크가 개인적으로 당신에게 전화를 걸어 특정 후보에게 투표하라고 하면 어떻게 할 것인가”라고 AP통신에 사례를 들기도 했다. 아마도 “많은 사람들이 그의 말대로 할 것”이란 얘기다.

공화당 전국위, ‘바이든의 일그러진 이미지’ 온라인 광고

실제로 2024년 대선을 앞두고 미국 정가엔 그런 조짐이 번지고 있다. 이미 대선 출마를 선언한 트럼프 전 대통령은 AI가 만든 콘텐츠를 SNS 팔로워들과 공유하기도 했다. 트럼프는 지난 12일 자신이 만든 소셜 미디어 ‘트루스 소셜’에서 CNN 진행자 앤더슨 쿠퍼의 영상을 공유한 것이다. 이는 AI 음성 복제 도구를 이용, 지난 주 쿠퍼의 CNN 보도 내용을 왜곡한 내용이다.

또한 공화당 전국위원회가 지난 달에 발표한 ‘디스토피아 캠페인’ 광고는 디지털 기술로 조작된 선거 전략의 대표적인 사례로 꼽힌다. 민주당 바이든 대통령이 재선 캠페인을 발표한 후 나온 이 온라인 광고는 바이든의 괴이하고 약간 뒤틀린 이미지와 함께 “우리가 그 동안 뽑았던 중에서 가장 약한 대통령이 재선된다면 어땠을까?”라는 자막이 펼쳐진다.

이에 AP통신이 인용한 인공지능 전문가들은 “공화당 전국위는 그나마 자신들이 AI를 악용한 사실을 인정했지만, 정말로 사악한 정치 캠페인이나 타국의 적대적 세력들은 그렇지 않을(밝히지 않을) 것”이라고 했다. 즉 “미국 민주주의를 훼손시키려는 세력들이 정치적 신뢰를 약화시키는 방법으로 AI와 합성 매체를 사용할 것”이란 우려다.

트럼프, 스스로 AI가짜영상 소셜미디어 공유도

이미 그런 사악한 영상이나 콘텐츠들이 내년 미국 대선을 앞두고 날로 범람하고 있다는 현지 보도다. 최근엔 실제로 바이든이 트랜스젠더를 공격하는 연설을 하는 것처럼 보이는 조작된 비디오가 나돌기도 했다. 그리고 도서관에서 마치 사탄주의를 배우는 것으로 추정되는 아이들의 모습을 담은 AI 생성 이미지에 이르기까지 다양하다. 특히 AI가 생성한 정치적 허위 정보는 이미 2024년 선거를 앞두고 온라인에서 넘쳐나고 있는 실정이다.

트럼프에 관한 AI 가짜 영상도 최근 소셜 미디어 사용자들을 감쪽같이 속인 바 있다. 트럼프는 업무 기록을 위조한 혐의로 역대 대통령 중 최초로 기소되어, 맨해튼 형사 법원에 출두했을 때는 사진조차 찍은 적 없다. 그러나 AI가 생성한 다른 이미지들은 트럼프가 경찰의 체포에 완강히 저항하다가 거칠게 끌려가는 모습을 담고 있어 보는 이들을 놀라게 했다. 이 경우는 그나마 가짜 이미지를 만든 장본인들이 자신들의 짓임을 밝히기도 했다.

이에 최근 미 하원에는 후보자들이 인공지능으로 만든 캠페인 광고에 (AI가 생성한 광고임을 밝히는) ‘라벨’을 붙이도록 의무화하는 법안이 제출되었다. 뉴욕 출신의 이벳 클라크 하원의원은 합성 이미지를 만드는 모든 사람이 ‘사실’ 여부를 표시하는 워터마크를 추가하도록 요구하는 내용을 동 법안에 담았다.

미 하원, ‘딥페이크 남용 방지법’ 발의도

미국 내 일부 주에서는 또 딥페이크의 폐해를 방지하기 위한 법안을 자체적으로 마련하는 움직임도 보이고 있다. 앞서 클라크 의원은 “2024년 대선 국면에서 생성 AI가 폭력을 선동하고, 미국인들끼리 서로 적대시하는 비디오나 오디오를 만드는 데 사용될 수 있다는 점이 가장 두려운 현상”이라고 우려했다.

그는 “기술 발전에 적응하는 것은 중요하다”면서도 “그러나 유권자들은 일상생활에 바쁘다보면 일일이 모든 정보의 사실 유무를 확인할 수 없다보니, 금방 속을 수 밖에 없다. 특히 AI가 무기화되는 정치적 시즌에는 매우 파괴적일 수 있기 때문에, 반드시 이에 대한 ‘가드레일’을 설치해야 한다”고 AP통신을 통해 촉구했다. 이는 미국 뿐 아니라, 우리나라의 정치․사회적 현실에 비춰 새겨들을 만한 경고일 수도 있다.

최근 워싱턴의 정치 컨설턴트 협회도 정치 광고에 딥페이크를 사용하는 것을 비난하며, “이는 합법적이고 윤리적인 캠페인의 여정에서 있을 수 없는 기만”이라고 했다.

이 단체에 따르면 그 동안 선거 국면에선 소셜 미디어에서 유권자를 대상으로 홍보하거나, 기부자를 추적하는 등의 일상적 작업을 자동화하기 위해 데이터와 알고리즘을 사용하는 수준이었다. 그러므로 “(생성AI기술과 같은) 기술 혁신이 2024년에도 긍정적인 결과를 제공하기를 바란다”고 희망했다.

실제로 미국의 진보적인 디지털 에이전시 단체인 ‘오센틱(Authentic)’의 마이크 넬리스 대표는 “‘매일’ 챗GPT를 사용하고 있지만, 이것으로 만들어진 콘텐츠는 반드시 사람의 손과 눈으로 정밀한 검토를 거치도록 하고 있다”고 강조했다.

이 단체는 최근 또 다른 연구기관과 협업, 퀼러(Quiller)라는 AI 툴을 만들었다. “이는 선거 자금 모금을 안내하는 이메일의 효과를 기록, 전송, 평가하는, 지루한 선거 운동의 일환이지만 매우 중요하고도 뜻있는 작업”이라고 했다.