전체메뉴

[애플경제 전윤미 기자] AI 이미지 생성 도구를 사용한 광범위한 딥페이크 성범죄가 온 나라에 충격을 주고 있다. 우리뿐 아니라 미국 등 해외에서도 이른바 ‘옷벗기’ 사이트 등 유사한 디지털 성범죄가 만연해 사회문제가 되고 있다. 그런 가운데 마이크로소프트가 마침내 각종 소셜 플랫폼으로선 최초로 딥페이크 포르노로 고통을 겪는 피해자들을 위해 빙(Bing) 검색에서 이미지를 삭제할 수 있는 도구를 사용자들에게 제공하기로 했다.

이는 특히 한국에서 최근 핫이슈가 되고 있는 딥페이크 성범죄 사태가 각종 외신에도 비중있게 다뤄지고 있는 가운데 나온 것이어서 특히 관심을 끈다. 이는 한국의 최근 상황도 영향을 끼쳤을 것이란 분석이다.

외신들 ‘한국의 구글 검색 포르노 피해 사례’ 인용도

생성 AI 도구가 발전하면서 그야말로 ‘디지털 포르노’ 전성기가 열린 듯한 상황이다. 특히 종래 딥페이크 기술을 뛰어넘는 생성 AI 도구들은 실존 인물의 얼굴과 합성한 가짜 누드 이미지를 조작하는 등 그 폐해가 극심해지고 있다. 이런 상황을 염두에 둔 듯, MS는 “수많은 포르노 피해자에게 빙(Bing) 검색 엔진에서 이러한 이미지를 유통할 수 없도록 차단하거나 삭제하는 도구를 제공하기 위해 중요한 조치를 취했다”며 이같이 밝혔다.

대부분의 외신이 이 소식을 전한 가운데, 특히 ‘와이어드’, ‘테크크런치’, ‘월스트리트저널’ 등은 최근의 한국 상황을 콕 집어 “2020년 이후로 한국의 구글 사용자가 원치 않는 성적 콘텐츠에 대해 무려 17만개의 검색 기록과 유튜브 링크가 집계되었다”고 강조했다. 이는 최대의 검색엔진을 운영하는 구글 역시 MS와 같은 조치를 취할 것을 압박하는 듯한 모양새다.

디지털지문 또는 ‘해시’로 삭제도 가능

MS는 많은 포르노 피해자가 검색 엔진에서 실제든 조작된 이미지이든간에 이러한 노골적인 이미지의 대해선 워터마크 등 ‘디지털 지문’을 만들어 원천적으로 유통을 막기로 했다. 이를 위해 디지털 지문 등을 전문으로 하는 ‘StopNCII’와 제휴하기로 했다고 밝혔다.

‘StopNCII’이 제공하는 디지털 지문을 이미지에 삽입하거나, 아니면 기술적으로 ‘해시’로 알려진 도구를 사용해 아예 플랫폼에서 이미지 자체를 삭제할 수 있도록 했다. MS의 빙(Bing)은 또 페이스북, 인스타그램, 쓰레즈, 틱톡, 스냅챗, 레딧, 포르노허브, 오니팬즈 등의 소설미디어 등과도 제휴, ‘StopNCII’의 ‘디지털 지문’을 사용해 음란물의 확산 자체를 차단하기로 했다.

5일 블로그 게시물에서 MS는 “이미 8월 말까지 ‘StopNCII’의 데이터베이스를 사용해 빙(Bing)의 이미지 검색을 통해 다운로드하거나, 퍼나른 26만8천개의 노골적인 이미지에 대해 이미 조치를 취했다”고 전하며, “종전 MS는 자체적으로 직접 모니터링한 후 도구를 제공했지만, 그것만으로는 충분하지 않다는 판단에서 내린 결정”이라고 밝혔다.

마이크로소프트는 또 블로그 게시물에서 “피해자나, 전문가, 기타 이해 관계자로부터 사용자들의 제보(에 의한 삭제 등)으로는 별로 효과가 없고, 검색을 통해 이미지에 아무나 액세스할 수 있는 위험을 적절히 해결할 수 없다는 우려섞인 조언을 들었다.‘고 이런 결정에 이르게 된 배경을 전했다.

“구글은 더 문제가 심각해” 성토 분위기

상황이 이렇게 되면서 이제 사용자들의 눈길은 ‘빙’보다 더 광범위한 검색 엔진인 구글로 쏠리고 있다. “구글은 상상할 수 없을 정도로 문제가 그 보다 더 심각하다”고 성토하는 분위기가 팽배해있다.

물론 구글도 나름대로 검색 결과를 모니터링하고, 노골적인 음란물 등 문제가 있는 이미지를 식별, 제거하는 도구를 자체적으로 가동하고 있다. 그러나 그것만으론 부족하다는 지적이다. 아예 MS처럼 사용자들 모두에게 그런 도구를 제공하고, ‘디지털 지문’과 같은 차단 장치를 적용해야 한다는 주장이다. “그럼에도 불구하고 여지껏 ‘StopNCII’와 같은 전문업체들과 협력하지 않고 있다”는 비난이 피해자들은 물론, 전직 직원들로부터 쇄도하고 있다.

특히 ‘와이어드’ 등 일부 매체들은 “2020년 이후로 한국의 구글 사용자들은 자신이 결코 원치않은 성적 이미지나 콘텐츠가 검색창을 통해 마구 유통되고 있어 고통받고 있다”면서 “실제로 그런 음란물 17만개가 구글 검색과 유튜브를 통해 떠돌고 있는 실정”이라고 지목했다. 이런 상황을 구글은 방치하다시피 하고 있다는 비난이다.

美 각주, ‘AI 딥페이크 성범죄 방지법’ 입법 확산

미국에서도 AI 딥페이크 음란물은 이미 널리 사회적 문제가 되고 있다. 더욱이 ‘디지털 지문’과 차단 및 삭제를 위한 ‘StopNCII’의 도구는 18세 이상에게만 효과가 있다는 것 또한 문제다. 실제로 ‘옷 벗기’라는 음란 사이트가 이미 전국의 고등학생들에게 문제를 일으키고 있다.

그러나 미국에선 아직도 AI 딥페이크 포르노에 대한 처벌이나 단속을 위한 이렇다할 법적 장치가 없는 실정이다. 그렇다보니 문제가 될 때마다 각 주나, 카운티 등 지방 법원의 판례나 재량에 맡길 수 밖에 없는 실정이다.

이에 지난 달엔 미국 샌프란시스코 검찰이 가장 악질적인 ‘옷 벗기’ 사이트 16곳을 폐쇄하기 위해 기소를 하기도 했다. 이런 범죄를 막기 위한 법적 장치가 필요하다는 여론이 워낙 높다보니 사법당국도 나설 수 밖에 없게 된 것이다. 최근엔 미국 내 23개 주가 합의하지 않은 딥페이크를 해결하기 위한 ‘AI 딥페이크 성범죄 방지법’을 제정했지만, 9개 주는 입법에 실패하기도 했다.

그런 가운데 MS가 AI포르노 차단 및 삭제도구를 제공키로 한 것은 분명 진일보한 조치란 평가다. 이에 세계 최대의 검색엔진을 소유한 구글도 상응한 조치를 내려야 한다는 압박이 가중되고 있다. 이를 계기로 각종 검색엔진과 AI검색봇 등 전반으로 이런 조치가 확산될지가 주목되고 있다.