전체메뉴

[애플경제 정한빈 기자]

과학기술정보통신부(이하 과기정통부)는 대국민 설문조사를 통해 딥페이크 가짜뉴스에 대한 국민 인식 조사를 실시했다. 그 결과 응답자의 41.9%가 딥페이크가 가짜뉴스임을 판별하지 못하는 것으로 나타났다. 이에 과기정통부는 딥페이크 가짜뉴스를 방지하기 위한 다양한 딥페이크 추적 탐지, 판별 알고리즘 등의 다양한 아이디어를 공모했다. 

과기정통부가 딥페이크 대응 방안의 실시한 아이디어 공모전에서 딥페이크 가짜뉴스와 관련된 다양한 기술이 소개됐다. 수상작으로는 워터마크를 활용한 ‘워터마크를 통한 딥페이크 추적 및 탐지’, ‘PGD 기반 워터마킹을 이용한 가짜뉴스 판별’, ‘인공지능 생성물 워터마크 표준안 마련 및 정착 지원’, ‘블록체인 기반 비가시적워터마크 등록제와 딥페이크 가짜 뉴스 피해자 종합 지원센터 구축을 통한 딥페이크 가짜뉴스 원스톱 통합 대응체계 마련’과 같은 아이디어가 제시됐다. 또 ‘AI로 강화하는 미디어 리터러시 : 가짜 뉴스 분석 서비스’, ‘메타데이터 기반 검증 및 경고 시스템’ 등이 소개됐다. 

특히 이번 공모전에서는 딥페이크를 방지하는 기술로 다양한 워터마크 기반 방안들이 주목받았으며 그 중에서도 FakeTrace 기법을 사용한 방안이 최우수상을 수상했다. FakeTrace 기법은 이미지에 단일 워터마크를 삽입하고 이를 추출하기 위해 두 개의 디코더를 사용하는 종합적인 방어 시스템이다. 이 기술은 모델 간 범용성과 개별 모델에 대한 워터마크 추출 성능을 확보해 딥페이크를  효과적으로 탐지할 수 있다. 특히 딥페이크 처리 이후에도 원본 사용자의 ID를 추출할 수 있어 가짜 뉴스의 유포를 사전에 차단하는 데 큰 역할을 할 것으로 기대된다.

또 다른 주목할 기술로는 PGD(Projected Gradient Descent) 기반의 워터마킹이다. 이 기법은 외부에서 인식되지 않는 워터마크를 생성하고 SHA-512 해싱 알고리즘을 활용해 콘텐츠의 무결성을 검증한다. 이를 통해 플랫폼에 업로드되는 딥페이크 콘텐츠를 사전에 감지할 수 있어 사회적 혼란을 줄이고 정보 리터러시를 강화할 수 있다.

뿐만 아니라 인공지능 생성물 워터마크 표준안을 마련하고 정착을 지원하는 방안도 제시됐다. 플랫폼 간 디지털 워터마크 표준화를 통해 가짜 뉴스 탐지율을 높이고 인공지능 생성물 판별 시스템을 도입하는 방안이다. 이를 통해 가짜뉴스 유포를 억제하고 신뢰할 수 있는 정보 환경을 조성할 수 있을 것으로 예상된다. 나아가 민간, 정부, 학계가 연합해 가짜뉴스 대응 체계를 구축하는 방안도 논의됐다. 지속적인 대응책 개선을 위한 연합체를 구성해 딥페이크 가짜뉴스 문제에 효과적으로 대응할 수 있을 것으로 기대된다.

이외에도 사용자가 미디어를 검색하면 내용 분석을 통해 관련 뉴스와 비교해 신뢰성 여부를 판단하는 가짜 뉴스 분석 서비스, 피해자 보호와 법적 대응을 지원하는 피해자 종합 지원센터, AI 영상 메타데이터에 암호화된 해시 값을 부여하는 메타데이터 기반 검증 및 경고 시스템 등의 다양한 대안들이 제시됐다. 이러한 다양한 기술과 방안들은 딥페이크 가짜뉴스로 인한 사회적 문제를 해결하는 효과적인 대응책으로 작용할 것으로 기대된다.

한편 대국민 설문조사는 10월 10일부터 11월 8일까지 약 한 달간 진행됐으며 597명의 국민이 참여했다. 설문 결과 응답자 중 94.5%는 가짜뉴스가 개인과 사회에 미치는 영향을 심각하게 인식하고 있었다. 또한 응답자의 39%가 딥페이크 가짜뉴스를 접해본 경험이 있다고 응답했다. 딥페이크로 인한 가장 큰 악영향으로는 인격적 피해(48.2%)가 꼽혔다. 이는 딥페이크 가짜뉴스가 단순히 정보 왜곡을 넘어 개인의 명예와 정신적 건강에 심각한 피해를 줄 수 있음을 보여준다. 

응답자들은 피해 예방을 위해 강력한 입법 및 정책(57.6%)과 범죄자에 대한 처벌 강화(36.9%)를 요구했다. 과기정통부는 이러한 의견을 바탕으로 효과적인 대응책 마련을 위해 지속적으로 노력하겠다고 밝혔다.