전체메뉴

[애플경제 이윤순 기자] 4․10 총선을 앞두고 생성AI 기반의 딥페이크에 대한 경계심이 고조되고 있다. 그런가 하면 미국은 물론, 유럽연합(EU)에서도 EU의회 선거를 비롯해 여러 회원국들의 선거를 앞둔 상황에서 딥페이크가 횡행하고 있어 우려가 높다. 이에 AI의 위험성과 악용에 대한 경각심이 전에 없이 높다.

베라 조로바 유럽연합(EU) 집행위원회 부위원장은 27일 “AI를 사용해 딥 페이크를 만드는 데 30분 정도 걸린다”면서 “EU 회원국마다 치러지는 선거 현장에서 이런 현상이 비일비재하다.”고 지적했다. 그는 또 “(딥페이크가) 선거 결과에 근본적으로 영향을 미쳤는지 여부를 평가할 데이터가 없지만, 만약 대규모로 사용된다면 분명 자유롭고 공정한 선거가 실종될 것”이라고 우려를 표했다.

지구촌 ‘선거의 해’를 맞아 우리나라를 포함한 세계 각국이 이처럼 생성AI와 딥페이크에 의한 부정선거를 걱정하는 상황이 된 것이다.

딥페이크 의한 민주주의 파괴 우려

블룸버그는 “EU가 디지털 콘텐츠 규정(규제 대상)에 해당하는 빅테크들이 생서AI를 포함, 선거에 대한 딥페이크 등의 위험으로부터 보호하기 위한 지침을 26 발표했다.”고 전했다. AI 기술로 인위적으로 생성하거나 조작된 딥페이크는 자칫 진짜로 오인되며, 큰 혼란을 불러 일으킬 수 있다.

주로바 부위원장은 블룸버그와 가진 별도 인터뷰에서 “딥페이크가 나타날 수 있는 플랫폼이나 디지털 사용자에게 ‘딥페이크에 라벨을 붙이거나 제거하도록’ 압력을 가하고 있다.”면서 “선거일이 가까워질수록 우리는 이 문제가 조속히 해결되길 바란다”고 밝혔다.

미국을 방문한 주로바는 바이든 미 대통령을 비롯한 미 행정부 관계자들과 만나 AI 기술을 선거에 악용함으로써 초래될 위험에 관한 대책을 논의할 계획이다.

그는 또 “디지털 사용자의 선의에만 의존할 수는 없는 현실”이라며 “모든 유럽 정당과 그들을 통해 모든 국가 정당에 인공지능 사용을 자제해 줄 것을 요청했다”고 밝혔다.

딥페이크 식별 위한 라벨 등 ‘예방조치’ 의무화도

현재 EU의회 선거는 두달 남짓 남아있다. 뿐만 아니라 올해 전 세계적으로 수십억 명의 사람들이 선거에 참여할 예정이다. 그 때문에 AI개발업체나 플랫폼들이 딥페이크 등이 선거에 끼치는 폐해를 인식하고, 그에 따른 콘텐츠 조정 팀을 배치하며, 공식적인 정보를 홍보하고, 정치 광고에 명확한 라벨을 지정하도록 지시하는 등의 노력이 필수적이란 지적이다.

특히 EU의 ‘디지털시장법’에 따라 페이스북, 인스타그램, 틱톡, 구글과 같이 활성 사용자가 4,500만 명 이상이어서 규제 대상으로 지정된 플랫폼은 선거와 관련된 위험을 완화할 의무가 있다. 만약 이를 준수하지 않으면 연간 수익의 6%에 달하는 벌금이 부과될 수 있다.

EU는 또한 생성 AI로 인한 잘못된 정보의 위험을 피하기 위해 특히 딥페이크에 명확하게 라벨을 지정하는 등 구체적인 조치를 제시하고 있다. 이는 임박한 선거 국면에서 허위나 왜곡된 정보, AI가 만들어낸 가짜 이미지 등에 의한 위험을 완화하기 위해 빅테크들을 독려하고 있다.

특히 EU도 11월로 예정된 미국 대통령 선거 과정과 결과를 면밀히 관찰하고 있는 것으로 전해졌다. 만약 도널드 트럼프 전 대통령이 다시 백악관으로 돌아오면 우크라이나 전쟁이나, 전 세계 정세가 크게 요동칠 것이 예상되기 때문에 더욱 관심을 가질 수 밖에 없다.