전체메뉴

[애플경제 전윤미 기자]생성AI가 등장하면서 인공지능 기술이 정치인들의 선거에도 적극 활용되거나, 악용되기 시작했다. 특히 자신과 정적들에 대해 가짜 이미지나 메시지를 생성, 유포시키는 경우도 늘어나고 있다.

내년 총선을 앞두고 있는 한국에서도 본격적인 선거전에 들어가면 이처럼 생성AI를 활용하는 경우가 많아질 것으로 보인다. 이런 경우 후보 자신을 미화하는 조작된 이미지나 메시지, 혹은 상대 진영을 음해하는 메시지나 가짜 영상을 사실감있게 만들어 흑색선전에 써먹을 수도 있다.

해외에선 이미 ‘생성AI 선거’ 본격화

이미 미국과 유럽, 캐나다 등 해외에선 이같은 사례가 본격적으로 등장하고 있다.

'뉴욕 타임즈'에 의하면 최근 캐나다 토론토 시장선거에선 거리의 노숙자 캠프를 모두 정리하겠다고 공언한 후보자의 AI선거전이 구설수를 낳았다. 그는 도심 거리에서 수많은 노숙자들이 야영하는 바람에 황폐하고 누추해진 도시 풍경을 가짜 영상으로 만들어 유포함으로써 실제보다 과장된 현실을 조작한 것이다.

뉴질랜드의 한 정당은 인스타그램에 가짜 강도들이 보석상을 헤집고 다니는 모습을 영상으로 만들어 유포했다. 또 미국 시카고에서는 지난 4월 시장 선거에서 2위로 낙선한 후보가 뒤늦게 “뉴스 매체로 위장한 한 트위터가 인공지능을 사용해, 마치 내가 경찰의 만행을 묵인했다는 식으로 본인의 목소리를 복제했다”고 밝히기도 했다.

또 많은 정치인들이 선거자금 후원 요청 이메일이나 홍보 이미지를 AI로 만드는 사례가 늘어나고 있다. 이에 정치 컨설턴트, 선거 연구원, 그리고 각국 의회 의원들은 “합성 등의 방법으로 생성된 이미지나 홍보 광고를 규제하는 법안 등 새로운 ‘가드레일’을 설치하는 것이 시급하다”고 목소리를 높이고 있다.

특히 이같은 현상을 제어하는 뾰족한 방안이 없다는게 문제다. 실제로 자체적으로 AI가 생성한 이미지나 콘텐츠를 검증, 걸러내고 있다는 소셜 미디어들도 믿을 바가 못된다는 지적이다.

미국 대선 앞두고, 생성AI 마타도어 난무

아직 국내에선 그 정도로 생성AI가 선거전에 적극 활용되고 있지는 않다. 그러나 내년 4월 총선이 가까워올수록 분명 그런 현상이 두드러질 것으로 예상할 만하다.

실제로 미국에선 2024년 대통령 선거전이 가열되기 시작하면서 일부 선거 캠프에선 이미 생성AI 기술을 동원하고 있다. 공화당 전국위원회는 바이든 대통령이 재선 출마를 선언한 뒤 인공적으로 제작한 ‘종말 시나리오’ 영상을 만들어 공개했다.

또한 대선 출마를 선언한 론 드샌티스 플로리다 주지사는 트럼프 전 대통령의 가짜 영상을 올리기도 했다. 민주당도 이미 AI가 초안을 작성한 기금 모금 메시지를 사용한 적이 있다. 이에 대해 “어떤 경우는 인간이 작성한 원고보다 오히려 참여와 기부를 장려하는 데 더 효과적”이란 평가도 나오고 있다.

또 일부 정치인들은 토론에 대비해 인공지능을 사용한 질문이나, 상대의 공격에 대한 즉각적인 응답 자료를 만들기도 한다. 특히 “값비싼 전문가가 있어야 할 수도 있는 데이터를 AI가 분석하도록 함으로써 캠페인 비용을 줄이기도 한다”는 것이다.

NYT, “편견 강화, 정파적 대립과 분열 조작” 우려

AI 기술은 또한 허위 정보를 광범위한 사용자에게 퍼뜨릴 수 있다는게 특히 문제다. 사실과 너무나 흡사한 가짜 비디오나, 컴퓨터가 만들어낸 거짓 이야기로 가득 찬 이메일이 난무할 수도 있다. 또는 폭발사고나 이로 인한 도시 붕괴를 담은 조작된 이미지를 통해, 일부 유권자들에게는 자신들이 보고싶은 것만을 보길 원하는 심리를 충족시켜줄 수도 있다.

“그들이 보기를 기대하는 것만을 보여줌으로써 편견을 강화하고 당파적 분열을 확대할 수 있다”는게 ‘뉴욕타임즈’가 인용한 전문가들의 우려다.

실제로 오픈AI의 최고 경영자 샘 알트먼도 지난 번 미 상원 소위원회에 출석, “선거 시즌을 걱정하고 있다”고 털어놨다. 즉 “AI기술은 일대일 대화식 허위 정보를 조작하고, 설득하고, 일종의 대화형태의 허위 정보를 제공할 수 있기때문”이란 것이다.

뉴욕 출신의 미 민주당 의원인 이베트 D. 클라크는 지난달 성명에서 “2024년 선거는 AI 생성 콘텐츠가 만연한 첫 선거가 될 것”이라며 이를 준비하고 있다고 밝히기도 했다.

이에 그는 다른 민주당원들과 함께 인위적으로 생성된 자료를 사용하는 정치 광고를 합법화할 것을 명시한 법안을 발의했다. 이미 미 워싱턴 주에선 의회가 유사한 법안을 통과시킨 것으로 전해졌다. 마음놓고 합법적으로 생성AI를 활용해 이미지와 메시지를 가공할 수 있도록 해달라는 얘기다.

그러나 미국 정치 컨설턴트 협회는 최근 “정치 선거에서 딥페이크 콘텐츠를 사용하는 것은 ‘윤리 규정 위반’”이라고 비난했다. 즉 AI를 사용해 유권자들에게 거짓말을 하고, 오도하고, 존재하지 않는 것에 대한 믿음을 만들기 위해 나쁜 말과 행동을 동원할 수 있을 것“이라고 경고했다.

캐나다 시장 선거, ‘노숙자 천국’ 도시 이미지 조작 배포

앞서 캐나다 토론토 시장 선거는 그중 생성AI를 가장 적극적으로 활용(악용?)한 선거로 알려지고 있다.

선거에서 보수적인 후보였던 전직 뉴스 칼럼니스트 ‘앤서니 퓨리’는 최근 수십 페이지 길이의 문서를 통해 자신의 공약을 제시했다. 그 대부분은 범죄에 대해 강경한 입장을 강조하기 위해 생성AI로 합성하여 만든 허위 정보로 가득했다.

‘뉴욕타임즈’는 “자세히 살펴보니 많은 이미지가 실제가 아님이 분명했다”고 단언했다. 이 신문은 “한 실험실 장면에는 외계인의 방울처럼 보이는 과학자들이 등장했다”거나, “시장 후보 앤서니 퓨리는 탁자 앞에서 두 팔을 교차시키고 있는데, 우스꽝스럽게도 세 번째 팔과 턱을 만지고 있는 여성의 합성 초상화를 사용”한 것이다. 그야말로 인간의 팔이 세 개나 되는 셈이다.

"민주주의 크게 훼손할 것"

정치 전문가들은 인공지능이 잘못 사용될 경우 민주주의를 크게 훼손시킬 것으로 우려하고 있다.

누군가는 계속 잡음을 만들고, 불확실성을 구축하거나, 거짓 서술을 히도록 할 수만은 있다면, 그것이야말로 유권자들을 동요시키고 선거에서 승리하는 효과적인 방법이 될 수 있을 것이란 전망이다.

날로 정교해지는 A.I를 탐지하는 서비스를 제공하는 기업인 ‘리얼리티 디펜더’의 CEO 벤 콜맨은 “이런 조작행위는 콘텐츠가 주로 원하지 않거나 통제할 수 없는 소셜 네트워크에서 더 자주 나타나고 있다”면서 “이미 수 백만의 사람들이 보고 공유한 콘텐츠가 뒤늦게 ‘가짜’임이 밝혀져도, 이를 다시 수 많은 사용자들에게 설명하는 것은 불가능한 일”이라고 했다.