X, 반유대주의, 이슬람 혐오 방치?

[애플경제 전윤미 기자] X(옛 ‘트위터’)가 이-팔 분쟁 와중에 반유대주의와 이슬람 혐오를 방치하고 있다는 비판이 제기되고 있다.

중동에서 갈등이 고조되는 가운데 X는 반유대주의 음모를 조장하고, 히틀러를 찬양하며, 무슬림과 팔레스타인인을 비인간화하는 게시물들을 제대로 제어하거나 대처하지 못하고 있는 것으로 알려졌다.

15일 ‘온라인 증오와 극단주의를 연구하는 비영리 단체’인 CCDH(Center for Countering Digital Hate)는 보도자료를 통해 이같은 내용을 담은 보고서를 요약, 공개했다.

이에 따르면 이 단체는 우선 증오심 표현이 포함된 101개 계정에서 200개나 되는 X 게시물 샘플을 수집했다. 각 게시물은 지난 10월 31일 기준으로 X를 분석한 것이다. “대부분 현재 진행 중인 중동 사태를 직접로 언급했거나, 그런 언급을 보고 판단한 것들”이라고 했다.

분석 결과 “비방, 인종차별적 또는 성차별적 고정관념, 비인간화, 공포 또는 차별 선동, 증오적 언급, 증오심이 강한 상징 및 로고 등을 망라한 표현이 게시되어있다”고 한다.

CCDH에 따르면 그런 게시물 200개 중 196개가 여전히 온라인에 남아 있으며, 신고된 계정 1개는 정지되었고 2개는 ‘잠김’ 상태였다.

증오․극단주의 연구단체, 200개 게시물 분석

기술매체 ‘테크크런치’는 자체 분석을 통해 “X는 팔레스타인인을 ‘동물’이라고 부르는 캐리커처를 묘사하는 콘텐츠를 계속 호스팅하고, 사람들을 ‘유대인과 이슬람교도가 서로 죽이는 쇼를 즐기도록’ 초대하는 내용을 그대로 방치하고 있다”고 전했다.

이같은 X 게시물에 대한 조회수 역시 다양했다. 홀로코스트를 부정하는 게시물과, 전통 유대인 복장을 한 남자를 묘사한 대화형 ‘gif’ 이미지도 10만회 이상 조회되었다. 삭제되지 않은채 남아있는 이런 종류의 게시물들의 총 조회수는 2,400만 회 이상을 기록했다.

CCDH는 “200개의 게시물 샘플은 특정 시점에 X에 있는 콘텐츠의 일부일 뿐”이라며 “게시물 중 다수는 노골적인 인종차별, 폭력을 공개적으로 수용하고, 지금도 온라인에 남아 ‘유명세’를 떨치고 있다”고 한다.

X는 비록 정기적으로 규칙을 위반하는 콘텐츠를 제거하진 못하지만, 전문가나 언론이 게시물의 문제점을 지적하면, 매우 빠르게 해당 게시물을 제거하곤 했다. 그런 점에서 보면 이번과 같은 모습은 매우 이례적이란 지적이다. “자체 검증과 모니터링 기능이 허술해진 탓”이란 얘기도 나온다.

물론 CCDH가 추출한 게시물 샘플 중 일부에는 뒤늦게 “가시성이 제한됩니다. 이 게시물은 증오 행위에 대한 X의 규칙을 위반할 수 있습니다.”라는 라벨이 부착되어 있다.

그럼에도 불구하고, “반유대주의 음모를 조장하는 게시물, 홀로코스트를 농담으로 일축하는 게시물, 무슬림에 대한 폭력을 정상화하기 위해 비인간적인 언어를 사용하는 게시물 등 많은 문제적 콘텐츠가 라벨도 없이 그대로 방치되어 있다”는 것이다.

X, 문제점 지적 시민단체에 소송 제기

그렇다보니 이에 대한 비판의 목소리가 날로 높다. 디지털 혐오 대응 센터의 CEO인 임란 아메드(Imran Ahmed)는 “X는 광고주와 대중에게 증오심 표현을 다룰 수 있다는 점을 확신시키려고 노력했지만 우리 연구에 따르면 이는 빈말에 불과한 것으로 나타났다.”고 ‘테크크런치’에 밝혔다.

그는 “X의 콘텐츠 조정 시스템에 대해 우리는 ‘미스터리 쇼퍼’ 테스트를 통해 과연 X가 명확한 증오심 표현 200개 사례를 삭제할 수 있는 능력이나 의지가 있는지 확인했다”고 전했다. 본래 X는 나름의 ‘안전 지침’을 통해 “사용자가 인종, 민족, 국적, 계급, 성적 취향, 성별, 성 정체성, 종교, 나이, 장애 또는 심각한 질병을 근거로 다른 사람을 공격할 수 없다”고 명시하고 있다.

그러나 임란 아메드는 “실제 테스트 결과 (일론 머스크의 X에선) 누구든 악의적으로 반유대주의적이고 증오적인 표현물을 게시할 자유가 있는 것처럼 보인다”고 꼬집었다.

앞서 일론 머스크는 X를 인수한 직후 콘텐츠 조정 인력을 줄이고, 소외된 집단을 보호하는 ‘안전 정책’을 철회했으며, 이전에 퇴출되었던 사용자들을 다시 플랫폼으로 초대한 바 있다.

그러면서 X는 오히려 자신들의 문제점을 지적하는 CCDH를 공격하기도 했다. 올해 들어 X는 “비영리 단체가 승인 없이 플랫폼의 데이터를 사용하고 의도적으로 회사의 광고 사업을 훼손했다”고 주장하며 CCDH를 상대로 소송을 제기하기도 했다. CCDH는 그 동안 줄기차게 X의 문제점을 지적해왔다.

CCDH가 이같은 새로운 보고서를 발표한 날, X는 이스라엘과 가자에서 벌어지고 있는 분쟁과 관련된 콘텐츠 조정 시스템을 홍보하는 블로그 게시물을 게시했다. 이 회사는 “서비스 약관을 위반하는 32만5천개 이상의 콘텐츠에 대해 조치를 취했으며, 이러한 조치에는 ‘게시물 도달 범위 제한, 게시물 삭제 또는 계정 정지’가 포함될 수 있다”고 밝혔다. 시민단체와 언론의 지적에 뒤늦게 대책에 나선 것이다.