메타, 미국 내 41개주로부터 피소, ‘어린이․청소년 위해 콘텐츠 중독’
시민 감시단체들, 생성AI 등 악용, 인터넷상 ‘아동학대’ 심각 우려도
[애플경제 김향자 기자] 미 캘리포니아와 뉴욕을 포함, 무려 33개 주정부가 메타를 고소하는 사태가 일어났다. 인스타그램과 페이스북이 어린이와 청소년들을 중독시키도록 의도적으로 설계했고, 특히 청소년 정신 건강을 크게 해치고 있다는 이유다.
이번 사건을 계기로 미국과 영국 등 각국에서 새삼 인터넷상에서 아동학대나 정서 침해 등을 문제삼는 여론이 들끓고 있다.
AP통신과 뉴욕타임스, 워싱턴포스트 등 유력 외신들이 일제히 이같은 우려의 목소리를 내고 있다. 특히 AP통신은 25일 “AI가 생성한 아동 성적 학대 이미지가 인터넷에 넘쳐날 수 있어, 사회적 ‘감시견’들이 이에 대한 강력한 조치를 촉구하고 있다”면서 이를 우려하는 시민단체와 활동가들의 움직임을 전하고 있다.
“인스타그램․페이스북 어린이․청소년 중독, 정서 파괴”
이에 따르면 특히 메타가 33개주로부터 무더기 고소를 당한 직후 그런 움직임이 거세졌다. 영국에 본사를 둔 인터넷 감시 재단(I.W.F : Internet Watch Foundation)은 서면 보고서를 통해 “AI가 생성한 아동 성적 학대 이미지가 홍수처럼 쏟아져 법 집행 기관을 압도하고 잠재적 피해자가 엄청나게 늘어나기 전에 정부와 기술 제공업체에 신속하게 조치를 취할 것”을 촉구했다.
이들 단체는 “특히 딥페이크 사진을 생성하는 인공지능 도구를 통제하기 위한 조치를 취하지 않으면, 이미 인터넷에서 아동 성적 학대 이미지가 확산되고 있다는 우려스러운 상황이 훨씬 더 악화될 수 있다”고 경고했다.
메타의 경우는 그 정도로 심한 아동 학대 혐의까진 아니다. 그러나 33개 주에서 캘리포니아 연방법원에 제기한 소송에서는 ‘메타’가 연방법을 위반, “부모의 동의 없이 13세 미만 어린이에 대한 데이터를 정기적으로 수집하고 있다”는 주장이 나왔다.
또한 이들 주 외에도 9명의 다른 주 법무장관이 각자 소송을 제기, 메타에 대한 법적 조치에 나선 주는 워싱턴D.C와 41개 주에 달했다.
AP통신, 부산지방법원 ‘아동학대’ 판결 사례 인용
AP통신은 그러면서 한국 등의 최근 사례를 들기도 했다. 이에 따르면 부산지방법원이 지난 9월 인공지능을 사용해 360개의 가상 아동 학대 이미지를 만든 남성에게 징역 2년 5개월을 선고한 최초의 사건이 발생했다. .
또 스페인 남서부의 한 학교에서 경찰은 10대들이 전화 앱을 사용하여 옷을 잘 차려입은 학교 친구들을 사진에서 누드로 보이게 만들었다는 혐의를 조사하고 있다.
I.W.F 보고서는 “사용자가 이메일부터 새로운 예술 작품이나 비디오에 이르기까지 생산하고 싶은 것을 말로 설명하고 시스템이 이를 뱉어내도록 하는 생성적 AI 시스템을 구축하려 한다”고 폐해를 폭로하고 있다.
이에 따르면 이를 막지 못한다면, 딥페이크 아동 성적 학대 이미지의 홍수로 인해 가상 캐릭터로 밝혀진 아동을 구출하려는 수사관들이 난관에 빠질 수 있다. 가해자는 이미지를 사용하여 새로운 피해자를 만들어 그루밍을 할 수도 있다.
이 단체는 온라인 아동 성적 학대 퇴치에 초점을 맞추고, 암호화된 네트워크 내에서 호스팅되고 익명성을 제공하는 도구를 통해서만 액세스할 수 있는 인터넷의 일부인 소위 ‘다크 웹’을 조사했다. 그 결과 IWF 분석가들은 학대자들이 팁을 공유하고 자신의 가정용 컴퓨터를 모든 연령층 어린이를 대상으로 손쉽게 성적으로 노골적인 이미지를 생성하고 있음을 발견했다. “일부는 점점 더 실제처럼 보이는 이미지를 거래하고 이를 이용하여 이익을 얻으려고 시도하고 있다”고 했다.
아동 성적 학대 이미지 자동 검색 ‘법제화’ 목소리
문제는 이같은 콘텐츠가 폭발적으로 증가하는 점이다. 이에 “정부가 AI로 인한 남용에 더 쉽게 대처할 수 있도록 법률을 강화해야 한다”면서 “특히 법 집행 기관에 채 알려지지 않은 경우에도 메시징 앱에서 아동 성적 학대로 의심되는 이미지를 자동으로 검색할 수 있는 감시 조치에 대한 법적 규제가 절실하다”고 강조했다.
물론 오픈AI의 이미지 생성기 달E(DALL-E)와 같이 AI 모델의 훈련 및 사용 방법을 완전히 제어할 수 있는 폐쇄형 AI 모델을 보유한 경우는 이런 범죄를 비교적 잘 차단하고 있다는 평가다. 반면에 아동 성 학대 이미지 제작자들이 선호하는 도구는 런던에 본사를 둔 스타트업 ‘Stability AI’가 개발한 오픈 소스 ‘Stable Diffusion’이 지목되었다.
2022년 여름에 ‘Stable Diffusion’이 등장했을 때 일부 사용자는 이를 사용하여 과도한 노출과 음란물을 생성하는 방법을 빠르게 익혔다. 이에 ‘Stability’는 나중에 안전하지 않고 부적절한 콘텐츠를 차단하는 새로운 필터를 출시하긴 했다. 또 소프트웨어 사용 라이센스에는 불법 사용 금지 기능도 함께 제공했다.
메타, 아동학대 규탄 분위기 속 ‘곤혹스런 입장’
이같은 상황에서 ‘메타’ 무더기 피소를 당하면서 이 회사로선 ‘업친데 겹친격’이 되었다. 메타는 시민사회와 규제당국으로부터 “전례 없는 기술을 활용하여 청소년과 청소년을 유인하고 참여시키며 함정에 빠뜨렸다. 그 동기는 오로지 금전적 이익을 극대화하기 위한 것으로 가장 취약한 소비자인 청소년과 어린이를 착취하고 조종하는 방식을 은폐해 왔다.”는 날선 비판을 받고 있다.
고소장에 의하면 메타는 아이들이 플랫폼에 중독되게 만드는 동시에 자존감을 낮추는 조작 기능을 갖춘 플랫폼을 의도적으로 설계했다는 혐의다.
이같은 대규모 연방 소송은 각 주 법무장관으로 구성된 초당파 연합이 주도한 조사의 결과에 따른 것이다.
앞서 2021년 가을 ‘월스트리트 저널’이 이같은 폐해를 처음으로 대서특필한 것이 발화점이 되었다. 이에 메타 역시 자체 연구를 통해 이를 어느 정도 인정했다. 이에 따르면 인스타그특히 10대 소녀에게 정신 건강과 신체에 해를 끼칠 수 있음을 메타도 알고 있었다. 메타의 한 내부 연구에서는 10대 소녀 중 13.5%가 인스타그램이 자살에 대한 생각을 더 부추기는 것으로 나타났다. 또 10대 소녀 중 17%는 인스타그램이 “섭식 장애를 악화시킨다”고 말했다.
이번 소송에서 캘리포니아 법무장관 로브 본타는 “Meta는 기업 이익을 증대하기 위해 중독을 조장하면서 우리 어린이와 청소년에게 해를 끼치고 있다.”면서 “이번 소송으로 그런 폐해에 종지부를 찍게 할 것”이라고 단호한 태도를 보였다.
십대들의 소셜 미디어 사용은 미국 외의 세계 여러 지역에서 보편적인 현상이다. 퓨 리서치센터 보고에 따르면 미국의 13~17세 청소년 거의 모두가 소셜 미디어 플랫폼을 사용한다.약 3분의 1은 소셜 미디어를 "거의 지속적으로" 사용하는 것으로 밝혀졌다.
13세 미만 어린이, 사실상 자유롭게 소셜미디어 가입
현재 미국의 경우 소셜 미디어 회사는 13세 미만의 어린이가 플랫폼에 가입하는 것을 금지하고 있다. 그러나 어린이는 부모의 동의 여부에 관계없이 금지 사항을 쉽게 피할 수 있는 것으로 나타났으며, 많은 어린 어린이가 소셜 미디어 계정을 가지고 있다. 특히 “메타가 부모에게 알리고 허락을 받지 않고 어린이에 대한 데이터를 수집함으로써 고의로 ‘아동 온라인 개인정보 보호법’을 위반했다”는 것이다.
한긴 메타뿐 아니다. 틱톡 역시 최근 18세 미만 사용자를 위해 기본 60분 시간 제한 규칙을 도입했다. 그러나 제한 시간에 도달하면 미성년자는 비밀번호를 입력하기만 하면 계속 시청할 수 있다. 일단 “청소년 정신 건강 위기를 부추긴다”는 비판에 직면한 틱톡, 스냅챗 등은 아직 이번 소송의 대상이 아니다.
이번 소송에서 연방정부와 각 주는 일단 페이스북과 인스타그램이라는 ‘메타 제국’에 초점을 맞추고 있는 것으로 전해졌다.
마침 “소셜 플랫폼 전반에 걸쳐 불법적이거나 부도덕한 목적으로의 오용을 엄격히 금지한다”는 각계의 촉구와 각성이 빗발치고 있다. 인터넷 페해를 연구하는 감시 그룹인 ‘Stanford Internet Observatory’ 역시 “어린이가 관련된 노골적인 콘텐츠를 만드는 사람들이 압도적으로 선택하는 소프트웨어를 비롯해, 공개적으로 사용 가능한 소프트웨어를 사용하여 이와 같은 유해한 콘텐츠를 만들 수 없도록 하는 방안이 시급하다”고 지적했다.