전체메뉴

[애플경제 전윤미 기자] 마크 저커버그와 메타가 24일(한국시각 25일) ‘메타 커넥트 2024’를 통해 밝힌 ‘메타 AI’ 기술이 요즘 한국을 비롯한 각국에서 큰 사회문제가 ‘딥페이크’ 혹은 ‘딥페이크 성범죄’에 악용될 소지가 크다는 비판이 제기되고 있다. 이날 저커버그가 이 기술을 인스타와 페북 등에 접목하고, 이를 기반으로 한 이미지 생성 도구를 출시할 것으로 밝힌 직후 이같은 우려가 쏟아지고 있다.

온라인으로 ‘메타 커넥트 2024’를 지켜본 수많은 시청자들 중엔 “메타의 AI가 이제 비디오를 딥페이크하고 피드를 엉터리로 채우는, 가장 강력한 엔진이 될 수 있다”는 비판과 우려가 일고 있다. 특히 별도의 필터링 장치도 없이 지구촌 최대의 소셜미디어인 페북과 인스타 등에 AI이미지 생성 도구를 접목했다는 지적도 있다. 그런 ‘악성 딥페이크’ 기술을 이번에 한 단계 끌어올리는 역할을 했다는 것이다.

‘딥페이크 성범죄’ 등의 안성맞춤 기술?

특히 저커버그는 이날 기조연설에서 “사용자들은 메타 AI와 대화를 하는 것은 물론, 많은 ‘유명인의 목소리’로 대화할 수도 있다”고 해 이같은 우려의 불씨가 되었다. 유명인의 목소리를 악용, 진짜같은 가짜를 만들 수 있을 것이란 얘기다. 이는 자칫 국내에서 문제가 되고 있는 딥페이크 성범죄의 매우 유용한 도구가 될 수도 있다. 최악의 경우 특정인의 얼굴 사진만으로 가짜 목소리까지 덧씌운 가짜 음란물을 만들 수도 있다는 얘기다.

기술매체 중 특히 기즈모도(Gizmodo)는 “그 동안 페북과 인스타그램에 그런 기능(딥페이크)이 없다고 불평해 온 일부 사용자들을 위해 AI가 생성한 사기성(가짜) 이미지나 영상을 한껏 설계할 수 있도록 한 생성 AI 기능 모음을 공개했다”고 꼬집었다.

실제로 이날 ‘커넥트 이벤트’에서 저커버그는 메타 AI가 이미지를 입력, 편집하는 기능을 설명하면서, 다양한 사례를 들어 주목을 끌었다.

예를 들어 “어떤 종류의 꽃을 찍었는지, 또는 다채로운 케이크를 만드는 방법을 알고 싶으신가요? 라고 Meta AI에 물어보라”고 했다. 또 “인스타그램 피드에서 염소 사진을 보고 서핑보드 위의 염소 사진으로 다시 게시하고 싶으신가? Meta AI에 물어보세요”라고도 했다. 특히 “서핑보드 위의 염소에 대해 뭐라고 말해야 할지 모르겠나요? 걱정하지 마세요. 메타 AI는 페북과 인스타그램에서 이런 스토리에 대한 설명도 제공한다”고 했다.

다시 말해 어떤 가상의 상황이나, 전혀 엉뚱한 환경의 이미지나 캡션도 조작해낼 수 있다는 얘기다.

저커버그, 다양한 딥페이크 기술 직접 소개

메타는 또 사용자들이 혹 메타 AI와 직접 채팅하는 것이 번거롭다고 생각될 경우를 대비, 페북과 인스타에서 또 다른 기능을 테스트할 예정이다. 즉, “관심사나 현재 트렌드에 맞는, 요청하지 않은 AI 생성 이미지를 피드에 직접 주입하는 것”이다. 그래서 “제안된 프롬프트를 ‘탭’하여, 해당 콘텐츠를 새로운 방향으로 가져가거나, 스와이프하여 실시간으로 새로운 콘텐츠를 상상할 수 있다.”는 것이다.

즉, 사용자 자신이 상상하거나, 공상과 같은 상황에 맞는 이미지를 요청하거나, 기왕의 프롬프팅한 콘텐츠를 다시 재가공해 전혀 다른 내용으로 바꿀 수도 있다. 이는 악용하기에 따라선 얼마든지 타인을 음해하거나, 원하는대로 악성 딥페이크를 소셜미디어에서 손쉽게 만들 수 있는 ‘첨단의 도구’라고 할 수도 있다.

사실 이처럼 AI도구를 이용해 이미지를 만드는 것은 생성 AI가 수행하는 다른 어떤 분야보다 많은 에너지를 소모하는 작업 중 하나다. 어떤 경우에는 이미지 한 컷을 만드는데 드는 전력이 스마트폰을 완전히 충전하는 것과 같은 양에 달할 수도 있다. 그럼에도 불구하고, 메타는 왜 이처럼 AI 이미지 생성에 매달리는것일까. 물론 다른 경쟁사들을 의식한 때문이다.

실제로 지난 23일 오픈AI가 출시한 챗GPT용 음성 비서도 진작부터 메타에겐 하나의 자극제가 되었다. 이에 메타도 사용자가 ‘메타 AI’와 음성으로 대화를 시작할 수 있는 기술에 주력했다. 그 결과 이름만 대면 알만한, 내로라 하는 유명인의 목소리로 대화할 수 있는 음성 기능을 메타AI와 접목한 것이다.

“화자 목소리 자동 시뮬레이션, ‘입술’ 동기화”

메타는 또한 미국과 남미에서 인스타와 페북의 영상 콘텐츠를 스페인어에서 영어로, 또는 그 반대로 번역하는 딥페이크 기능에 대한 ‘소규모 테스트’를 진행하고 있다. 이같은 메타AI 번역 기능을 통해 “다른 언어로 화자의 목소리를 자동으로 시뮬레이션하고, ‘입술’을 동기화하여 일치시킨다”는 것이다. 그야말로 가짜 영상을 만들기 위해 꼭 필요한 딥페이크 기법을 제공하는 셈이다.

메타는 그러면서도 “페북과 인스타그램의 크리에이터들에게 이처럼 이미지와 음성을 조작하기 전에 ‘동의’를 구할 것인가”라는 기자들의 질문에 즉시 응답하지 않았다.

한편, 저커버그는 이날 ‘커넥트 이벤트’에서 기조연설을 통해 자사의 오픈소스 ‘Llama 패밀리’의 기초 생성 모델 3.2 버전 출시를 발표했다. 그 중 가벼운 버전인 ‘Llama 3.2 1B’와 ‘3B’는 디바이스에서 로컬로 실행할 만큼 컴퓨팅 전력이 적게 든다. 반면에 무거운 모델인 Llama 3.2 11B와 90B는 매출이 가장 활발한 시점을 골라 출시할 것으로 알려졌다.