전체메뉴

[애플경제 이지향 기자] AI개발 기업이 직원들에게 각자의 얼굴 표정을 학습용으로 제공하라는 요청을 할 수 있을까. 대부분의 경우 이를 거절하는게 당연하다. 그러나 ‘비즈니스 인사이더’(BI)에 따르면, 일론 머스크의 xAI는 직원들에게 “(AI모델) Grok에 얼굴 표정을 제공해달라”는 녹화 요청을 했다. 이에 직원들 대부분은 거절하거나 반대했다.

이는 AI 개발 단계에서 벌어진 또 하나의 ‘인권 침해’로 문제가 되고 있다. BI가 xAI 내부 문서와 슬랙(Slack) 메시지를 검토한 결과, AI 개발을 위한 소위 ‘스키피(Skippy)’ 프로젝트 과정엣 이런 사실이 드러났다. ‘Grok’이 사람의 얼굴이 어떤 것인지 학습하고, “인간의 감정을 해석하도록 돕기 위해 설계되었다”는 사측의 설명이다.

해당 문서는 또 직원들의 얼굴 데이터가 지난주 역시 논란 속에 출시된 xAI 아바타 훈련에도 사용되었는지는 불분명허다. 문제이 ‘아바타’는 추파를 던지고 옷을 벗는 애니메이션 친구 ‘애니’(Ani)와, 폭력을 조장하는 ‘배드(Bad)’ 모드를 가진 레드판다 ‘루디’(Rudi)가 등장한다. 그러나 BI 보도에 따르면, ‘스키피’에 대한 xAI 소개 회의 녹화 영상에서 결정적 장면이 포착되었다. 한 수석 엔지니어가 “회사는 직원들의 얼굴 데이터를 ‘사람 아바타’를 만드는 데 결국 ‘사용할 수도 있다’”고 확언하는 모습이다.

사측은 전 직원에게 “‘학습을 위한 동영상’이 회사 외부로 유출되지 않고, 오로지 AI 학습용으로만 사용된다”고 안내했다. 그러나 일부 직원들은 자신의 얼굴이 ‘자신이 하지도 않은 말’을 하는 데 사용될까 봐 동의서 서명을 거부했다.

앞서 xAI는 이미 Grok이 히틀러를 찬양하는 반유대주의적 발언을 함으로써 구설수에 오른 바 있다. 그런 xAI가 이번엔 “사람들이 사랑에 빠질만한 AI 기반 애니메이션 소녀”를 디자인하기 위해 엔지니어를 고용한다는 계획을 세웠다. 이는 직원들의 불안감을 더욱 키웠을 것으로 보인다.

직원들은 대부분 슬랙을 통해 거부 의사를 밝혔다. 그렇지 않은 직원들은 결국 xAI에 자신의 데이터에 대한 ‘영구적인’ 접근 권한을 부여하는 것에 크게 불안해했다.

xAI는 거부 의사를 밝히지 않은 200명 이상의 직원에게 15분에서 30분 분량의 대화를 녹음해 달라고 요청했다. 한 직원은 Grok 사용자로, 다른 직원은 ‘호스트’로 가장했다. xAI는 특히 “불완전한 데이터”를 찾고 있었다. “선명한 영상으로만 학습할 경우, Grok의 다양한 표정 해석 능력을 제한할 것”으로 예상했기 때문이다.

xAI의 목표는 사람의 얼굴과 표정을 Grok이 명확히 인식하도록 하는 것이다 즉, “사람들이 말하는 방식, 다른 사람의 대화에 반응하는 방식, 다양한 상황에서 자신을 표현하는 방식 등 얼굴 움직임과 표정을 인식하고 분석하도록 돕는 것”이란 설명이다. 그러나 직원들로선 얼굴 데이터가 얼마나 민감한지 절감하고 있다. 그런 그들에게 주어진 유일한 보장 중 하나는 “당신의 디지털 버전을 만들지 않겠다”는 약속 뿐이었다.

그런 과정에서 사측은 ‘튜터’라고 불리는 ‘스키피’ 프로젝트 참가자들에게 특별한 주문을 한 것으로 알려졌다. 즉 “단답형 답변을 하지 말고, 항상 후속 질문을 하고, 대화 내내 눈을 마주치라”고 참가자들에게 권고했다.

xAI는 또한 Grok이 이해하기를 바라는 표정을 유도하는 스크립트도 제공했다. 예를 들어 “당신은 어떻게 사람들을 몰래 조종해서 원하는 것을 얻으려 합니까?”, 또는 “자녀가 있는 사람과 데이트할 의향이 있습니까?” 등과 같은 주제다.

앞서 최근 xAI에 통합된 X가 일론 머스크 표현대로 “대규모 사이버 공격”을 받은 바 있다. 이번에 얼굴 훈련 데이터를 제공할 수 밖에 없었던 xAI 직원들로선 더욱 개인정보 보호에 대한 우려가 클 수 밖에 없다.

한편 미국 내 여러 주들은 이미 신원 도용에서부터 정부 감시에 이르기까지 개인정보 보호 위험을 방지하는 법률을 도입하고 있다. 특히 AI기업이 ‘명시적인 동의’ 없이 특정인에 대한 데이터를 수집하는 것을 엄격히 금지하는 ‘생체 정보 보호법’을 통과시킨 바 있다.