AI편견‧인종차별 철폐 내건 ‘챗블랙GPT’ 등장

[애플경제 이보영 기자] AI 챗봇을 비롯한 인공지능 기술의 가장 큰 오류와 편견의 하나가 인종차별이다. 유색인종 커뮤니티에 대한 몰이해와 혐오, 차별 등은 자칫 사회적 갈등의 불씨가 될 수도 있다는 지적이다. 이런 AI의 결함과 문제를 해결하고, 편견을 교정할 목적으로 등장한 생성AI 플랫폼 ‘챗블랙GPT’(ChatBlackGPT)가 최근 주목을 끌고 있다.

지난 6월 19일, 즉 ‘Juneteenth’로 알려진, 미국 노예 해방 기념 공휴일에 챗블랙GPT가 출시되었다. 이를 만들어 배포한 30세의 CEO 겸 설립자 에린 레딕은 아마존, 마이크로소프트, AWS 등에서 핵심 엔지니어로 활동해온 인물이다. 그는 최근 ‘매셔블’ 등 언론 인터뷰에서 “챗블랙GPT는 문화적으로 정보를 제공하는 AI를 표방하되, 사회적, 경제적, 체계적 인종 차별과, 미국 내 흑인 등 유색인종 집단의 존재를 인정하도록 노력하는 생성AI”라면서 “유색인종이 AI와 공감할 수 있는 대화를 나눌 수 있는 기회도 제공한다”고 했다.

“AI, 인종차별 부추기는 위험한 도구”

그의 말처럼 챗블랙GPT의 첫째 모토는 ‘인종 차별 철폐’다. 그에 따르면 흑인과 유색인종에게 특히 AI의 위험도는 심각한 수준이다. 지속적인 편견이 직장과 공동체에서 일상을 위협하기 때문이다. AI는 그런 도구로 악용되는 고위험 기술이란 주장이다. “기업이 AI 위험을 완화하도록 의무화하는 정책을 기다리느라, 그 사이에 흑인들이 고통을 감내하는 일이 없도록 하기 위해서” 챗블랙GPT를 만들었다는 얘기다.

실제로 CEO 레딕이 인용한 흑인 내지 유색인종에 대한 AI의 편견과 차별은 심각하다. 예를 들어 평범한 챗봇에게 “흑인 직업이 뭔데요?”라고 묻는다면, 어떤 챗봇은 “세금이 부과되지 않고 혜택도 없는, 비밀리에 하는 일”이라고 대답한다. 하지만 “백인 직업은 주로 어떤가?”라고 물으면, 대개 “교육을 받고, 보험에 가입하고, 합법적이고, 세금을 내는 직업‘이라고 대답한다. 언뜻 심각한 편견으로 보이지 않지만, 사실상 그 행간에는 인종 차별이나 우월감을 지닌 많은 사람들의 편견을 재확인하는 의미가 담겨있다.

그런 문제의식에서 출발한 챗블랙GPT는 출시된 후 소기의 성과를 거두고 있다. 오픈AI의 ‘맞춤형(Customizable) 스토어’에서 베타를 사용할 수 있도록 했고, 처음 1,000명의 사용자들이 5,000명으로 증가했다. 벤치마킹 평점 역시 4.6점을 받았는데, 레딕은 “사용자 정의 가능한 독점 데이터가 없다는 점에서 훌륭하다고 생각한다”고 했다. 또한 ‘독립형 앱’도 잘 되고 있다. 도구에 액세스할 수 있는 사람이 약 2,000명이며, 현재 독점 정보도 개발하고 있다. 이를 위해 “역사가를 비롯한 각 분야 전문가와 협력해 정보를 개발, 사회 각 분야에 제대로, 유용한 방식으로 반영되도록 하고 있다”는 설명이다.

‘흑인과 채팅’이란 뜻의 ‘챗블랙GPT’

‘챗블랙GPT’라는 이름은 “흔히 마주치는 유럽 중심적이고 정형화된 GPT 대신, ‘흑인 그룹과 채팅’”한다는 의미를 담고 있다. CEO 레딕은 빅테크에서 해고된 직후 이같은 아이디어에 착안했다. 곧 인종차별에 저항하는 AI를 연구하면서, 이 분야 최고 전문가 몇몇과 함께 구체적인 계획을 차근차근 수행했다.

그는 “그 전에도 이에 관한 조사를 수시로 했으며, ‘AI가 흑인 역사를 지운다’는 언론 보도도 많이 접하며 생각이 많았다”면서 “결국 AI가 많은 제품에 포함되어 있을수록 흑인 커뮤니티에 많은 피해를 주고 있다는 사실을 파헤칠 수 있었다”고 한다. 그러면서 “많은 AI기술이 흑인들이 얼마나 나쁜지, 그리고 얼마나 나쁜지를 세뇌시키고 있었다”고 개탄했다. 이런 고심 끝에 결국 “(흑인)커뮤니티에 관련된 맥락을 반영하고, 답변을 생성할 수 있는 정말 강력한 알고리즘을 만들어 냈다”고 한다.

대학, 기업, 단체들의 후원과 제휴

이를 위해 그는 다양한 인사들이나 기업, 단체들과 제휴를 맺고 있다. 특히 유명한 ‘11 Labs’으로부터 AI 음성 해설 콘텐츠를 후원받고 있다. 그 스스로도 워싱턴 대학교와 에머슨 대학교에서 명망있는 AI 강사로 활동하고 있다. 그는 특히 HBCU, 즉 ‘흑인대학’의 전통을지닌 대학들과 파트너십을 맺고 있다. 유명한 HBCU로는 하워드 대학교, 햄튼 대학교, 모어하우스 칼리지, 스펠맨 칼리지 등이 있다.

그는 곧 백악관 ‘HBCU 전국 컨퍼런스’에서 연설할 예정이다. 이를 통해 후원을 받는 한편, AI제품을 개발하는 데 도움을 줄 인턴을 찾고 있다.

레딕은 “앞으로도 커뮤니티의 의견을 경청하고 챗블랙GPT 베타가 오픈AI ‘사용자 지정(맞춤형) 스토어’에서 사용 가능한지 확인할 수 있도록 적극적인 활동을 계속할 것”이라고 밝혔다. 현재 GPT를 검색하면 나오는 챗블랙GPT도구는 ‘ChatBlackGPT.ai’이다.