과기부, 딥페이크 식별 기술 공모, '다양한 아이디어 속추'
설문에선 응답자 41.9%가 "딥페이크 가짜뉴스 판별 불가"
[애플경제 정한빈 기자]
과학기술정보통신부(이하 과기정통부)에 따르면 대국민 설문조사에서 응답자 41.9%가 딥페이크가 가짜뉴스임을 판별하지 못하는 것으로 나타났다. 또 이를 방지하기 위해 다양한 딥페이크 추적 탐지, 판별 알고리즘과 다양한 아이디어가 속출해 관심을 끈다.
과기정통부가 딥페이크 대응 방안의 하나로 실시한 아이디어 공모전에선 딥페이크 가짜뉴스와 관련된 다양한 기술이 소개됐다.
특히 이번 공모전에서는 딥페이크를 방지하는 기술로 워터마크를 활용한 방안들이 눈에 띈다. 먼저 FakeTrace 기법을 사용한 방안이 최우수상을 수상했다. FakeTrace 기법은 이미지에 하나의 워터마크를 삽입하고 이를 추출하기 위해 두 개의 디코더를 사용하는 종합적인 방어 시스템이다. 모델 간 범용성과 개별 모델에 대한 워터마크 추출 성능 확보해 딥페이크를 탐지 가능하다. 이를 통해 딥페이크 처리 이후에도 원본 사용자의 ID 추출이 가능해 가짜 뉴스의 유포를 사전에 차단할 수 있다.
또 다른 주목할 기술로는 PGD(Projected Gradient Descent) 기반 워터마킹이 있다. 이 기법은 외부에서 인식되지 않는 워터마크를 생성하고 SHA-512 해싱 알고리즘을 활용해 콘텐츠 무결성을 검증한다. 이를 통해 플랫폼에 업로드되는 딥페이크 콘텐츠를 사전에 감지할 수 있어 사회적 혼란을 줄이고 정보 리터러시를 강화할 수 있다.
뿐만 아니라 인공지능 생성물 워터마크 표준안을 마련하고 정착을 지원하는 방안도 제시됐다. 플랫폼 간 디지털 워터마크 표준화를 통해 가짜 뉴스 탐지율을 높이고 인공지능 생성물 판별 시스템을 도입해 가짜뉴스 유포를 억제한다. 나아가 민·관·학 연합 가짜뉴스 대응 체계 구축해 지속적인 대응책 개선을 위한 연합체 구성해 딥페이크 가짜뉴스를 방지한다.
이외에도 가짜 뉴스 분석 서비스, 피해자 종합 지원센터, 메타데이터 기반 검증, 경고 시스템 등이 대안으로 제시됐다.
한편 대국민 설문조사는 10월 10일부터 11월 8일까지 약 한 달간 진행됐으며 597명의 국민이 참여했다. 응답자 중 94.5%는 가짜뉴스가 개인과 사회에 미치는 영향을 심각하게 인식하고 있었으며 딥페이크 가짜뉴스를 접해본 경험이 있는 응답자는 39%였다. 딥페이크의 가장 큰 악영향으로는 인격적 피해(48.2%)가 꼽혔다.
응답자들은 피해 예방을 위해 강력한 입법 및 정책(57.6%)과 범죄자에 대한 처벌 강화(36.9%)를 요구했다. 과기정통부는 이러한 의견을 바탕으로 효과적인 대응책 마련을 위해 지속적으로 노력하겠다고 밝혔다.