전체메뉴

유명인의 얼굴을 가짜로 합성해 음란물을 만들거나 모욕적인 패러디를 하는 등 딥페이크의 폐해는 날로 심하다.

이는 딥러닝을 기반으로 영상이나 음성을 제작, 조작, 합성하는 기술에 근거한다. 최근엔 마이크로소프트, 구글, 페이스북 등 글로벌 기업들을 중심으로 딥페이크를 식별하고 방지하는 기술이 일부 개발되고 있다.

물론 이런 노력은 완벽하진 않지만 상당 부분 딥페이크의 공해를 해소하는데 도움이 되고 있다는 평가다.

올해 들어 미국에선 딥페이크를 감지, 식별하는 ‘딥페이크 디텍션 챌린지(DFDC)’가 열리기도했다. 이는 ‘AI미디어’의 건강성을 위해 페이스북, MS, AWS 등과 학계가 결성한 연구 위원회가 주최한 것으로 알려졌다.

이 행사에선 다양한 딥페이크 감지 솔루션이 등장했다. 그 중엔 이미지의 프레임별로 얼굴을 감지해내거나 이미지 구조의 동질성(SSIM. Structural Similarity)을 알아낼 수 있는 인덱스 마스크를 추출하는 방법도 등장했다. 이들 솔루션은 아직은 정확도가 떨어진다는 평가도 있으나, 현재 오픈소스로 공개돼 있어 주목을 끈다.

그러나 “생각보다 딥페이크는 그리 정교하지 않은 경우가 많다”는 게 많은 전문가들의 견해다. 어느 정도 그래픽 기술을 지니고 있다면 어렵지 않게 딥페이크 여부를 알 수 있다.

오히려 기술보다는 ‘만든 사람’의 스킬에 영상의 퀄리티가 좌우되는 수준이다. 현재 시중에서 많이 쓰이는 페이스 스왑(Faceswap) 기술 역시 딥페이크 알고리즘을 바탕으로 만들어졌지만, 식별이 불가능한 것은 아니라는게 이 분야를 잘 아는 사람들의 얘기다.

최근엔 이를 식별해내고, 피해를 방지하기 위한 일련의 기술 개발도 활발히 진행되고 있다. MS는 이른바 ‘마이크로소프트 비디오 인증’이라는 도구를 최근 공개했다.

MS의 발표에 의하면 비디오 인증은 사진이나 비디오를 분석해 미디어가 인위적으로 조작되었을 확률을 계산하고 그에 따른 ‘가짜’의 가능성을 점수로 매긴다. 이는 특히 사진이나 영상을 분석한 후 조작 가능성을 비교적 정확하게 알려준다.

동영상의 경우는 각각의 프레임을 분석하면서, 실시간으로 가짜인지 여부를 판별한다. 사람의 눈으로는 쉽게 감지할 수 없는 딥 페이크나 교묘한 페이딩, 그레이 스케일 요소 등이 혼합되어 가짜를 진짜로 속이는 지점을 간파해내는 것이다.

MS의 비디오 인증 시술은 일단 MS 애저에 내장된 도구를 활용하는 방식이다. 즉, 콘텐츠 제작자가 콘텐츠에 진짜인지를 알아내는 함수값인 디지털 해시와 인증서를 추가할 수 있도록 해주는 것이다.

사용자들은 이렇게 추가된 해시와 인증서를 통해 가짜를 판별해내는 한편, 이미지가 배포되는 과정에서도 메타테이터 형태로 유지될 경우 진짜임을 증명하게 되는 것이다. 해시와 인증서가 포함된 콘텐츠를 분석해낼 수 있는 ‘리더’가 또한 비디오 인증 기술의 핵심이다.

리더는 인증서를 확인하고 해시와 일치하는지 확인해서 이미지가 조작되었는지 여부를 판별할 수 있다. 물론 이는 아직은 공식적으로 출시되진 않고 있다. 그럼에도 이는 딥페이크 감지를 위한 또 하나의 특출한 도구가 될 것으로 기대하는 분위기다.

페이스북 또한 딥페이크 감지 도구를 만들 계획이다. 그러나 아직은 그 소스 코드를 공개하지 않고 있다. 이에 대해 페이스북의 사정을 잘 아는 전문가들은 “딥페이크를 만드는 개발자들이 이 감지 도구를 GAN(딥페이크 제작 앱)의 분별 도구로 역이용할 수 있다는 점 때문”이라며 “즉 가짜 미디어들이 더욱 정교한 딥페이크를 만들어 감지 도구를 피할 수 있는 계기를 제공해줄 수 있음을 우려하고 있다”고 전했다.

이같은 딥페이크 식별과 방지 노력은 국내에서도 이뤄지고 있다. 지난 5월에는 보안 업체인 인섹시큐리티가 음란물 및 불법 동영상 탐지 솔루션인 ‘iVDS’의 신규 버전을 출시해 관심을 끌었다. iVDS는 음란물 및 불법 동영상의 DNA를 자동으로 분석하여 탐지하는 솔루션이다.

이는 영상마다 사람의 지문과 같이 고유의 특징을 가지고 있는 핑거프린트(지문)가 있다는 사실에 착안한 것이다. 즉 동영상 DNA를 추출한 후 동영상 DNA 중앙 데이터베이스와 비교 분석함으로써, 수정 또는 조작 여부를 알 수 있게 한 것이다. 자막을 고의로 조작하거나, 이미지를 압축 내지 미러링하고 반전과 배속 등의 기법을 가미했는지 여부를 알아낼 수 있다.