전체메뉴

[애플경제 김예지 기자] X를 탈출한 사용자들로 인해 소셜 미디어 플랫폼 블루스카이 사용자들이 급증하고 있다. 심지어는 스레드를 추월할 수도 있다는 전망도 나오고 있다. 그러나 신규 사용자가 급증하면서 ‘유해한 콘텐츠’도 함께 증가하고 있어 문제가 되고 있다. 그 바람에 블루스카이는 네트워크에서 유해 콘텐츠와 이미지를 제거하기 위한 대규모 정화 작업에 나선 것으로 알려졌다.

블루스카이측은 별도 공지를 통해 “사용자가 엄청나게 유입되고 있으며, 그에 따라 우려했던대로 네트워크에 게시되는 유해한 콘텐츠가 급증하고 있다”고 밝혔다. 특히 “어린이들에게 유해한 콘텐츠를 방지하기 위해 기술적 성능이나 편리함보다 정밀한 필터링과 보안 장치에 더 주력할 것”이라고 공지했다.

앞서 트럼프 전 대통령이 이번 대선에서 승리한 후 X소유주 일론 머스크가 일등 공신으로 꼽혔다. 이에 수백만 명의 X사용자가 머스크의 영향으로 親트럼프 성향을 보이는데 불만을 품고, 대거 이탈해 블루스카이나 스레드로 모여들었다.

그 중 많은 사람들이 메타의 스레드로도 옮겨갔지만, 그 보다 더 많은 사용자들이 블루스카이로 몰렸다. 이는 트위터를 설립했던 잭 도시가 해당 플랫폼을 떠난 후 출시한 분산형 소셜 미디어 플랫폼이다. 특히 지난 9월 브라질 법원이 X를 금지하면서 블루스카이로 몰려든 현지 사용자들도 100만 명을 넘었다.

게다가 X의 소유주인 일론 머스크가 트윗의 데이터로 그록(Grok AI)를 훈련할 수 있다고 말한 후 다시 대규모 X엑소더스가 이어졌다. 그러나 블루스카이의 사용자가 급속도로 늘어나면서 문제가 생겼다. 각종 스팸, 사기, 트롤링 이 급증했다. 특히 어린이를 상대로 한 성적 학대 콘텐츠나 영상 등이 난무하기도 했다.

기술 웹사이트 플랫포머(Platformer)에 따르면 2023년에는 블루스카이 네트워크에 게시된 어린이 대상 포로노그래피가 하루 2건 정도 확인되었다. 그랬던 블루스카이가 이젠 어린이 유해 콘텐츠의 ‘천국’이 되고 있다.

블루스카이가 공지한 바에 따르면 지난 24시간 동안 무려 42,000건 이상의 신고가 접수되었다. 이는 하루 기준으로 사상 최고치다. 시간당 약 3,000건의 신고가 접수된 셈이다. 습니다. 2023년의 경우 1년 간 36만건에 비하면 엄청나게 늘어난 수치다.

일단 블루스카이는 “(유해 콘텐츠 제거를 위해) 대규모 모니터링 과정에서 계정 정지가 발생했을 수 있다”면서 “부당하게 정지된 계정 중 일부는 복구되었지만, 다른 계정은 여전히 ​​이의를 제기할 수 있다”고 안내했다.

이 회사는 또 “모니터링의 적절성과ㅏ 정확성을 위해 모니터링 팀을 확대하고 있다”고 밝혔다. 이를 위해 AI가 생성한 딥페이크를 억제하기 위해 비영리 단체 ‘Thorn’과 협업하고 있다. ‘Thorn’의 AI 기반 ‘Safer’ 모니터 기술을 도입, “어린이에 대한 성적 해악으로 이어질 수 있는 위협 사례를 나타낼 수 있는 텍스트 기반 자료를 포함한 아동용 성적 콘텐츠를 감지하고 있다”고 밝혔다.

X의 경우 성인 콘텐츠를 허용하긴 한다. 그러나 지난 5월에 사이트에서 어린이 성적 학대 자료를 퇴치하기 위해 역시 ‘Thorn’의 Safer 기술을 도입한 바 있다. 블루스카이도 이를 통해 사이트를 정화하는 노력을 기울이고 있어 결과가 주목된다.