전체메뉴

국내업체가 개발한 대화형 인공지능(AI) 챗봇 ‘이루다’의 서비스가 잠정 중단됐다. 지난해 12월 출시된 챗봇 이루다는 최근 소셜미디어(SNS)와 온라인커뮤니티 등에 성희롱과 장애인, 성소수자 등에 대한 차별‧혐오는 물론 개인정보 유출이 의심스러운 대화 내용이 공유되면서 논란을 불러일으켰다. 

이루다와 관련한 논란이 거세지면서 SNS 상에서는 ‘이루다봇_운영중단’이라는 해시태그(#) 운동도 펼쳐졌다. 이재웅 전 쏘카 대표는 9일 자신의 페이스북에 "AI 챗봇 이루다를 악용하는 사용자보다, 사회적 합의에 못 미치는 수준의 서비스를 제공한 회사가 문제"라고 글을 올려 비판했다. 

이에 개발사 스캐터랩은 11일 공식입장문을 통해 “이루다가 특정 소수집단에 대해 차별적인 발언을 한 사례가 생긴 것에 대해 진심으로 사과드린다. 저희는 루다의 차별적 발언에 동의하지 않으며 그러한 발언은 회사의 생각을 반영하지 않고 있다”고 밝혔다. 

이어 “본사는 해당 이슈를 매우 중요하게 생각하고 있고, 특정 집단을 비하는 호칭이나 혐오 표현의 경우, 베타테스트 기간 동안 발견 즉시 별도의 필터링을 진행했다. 또한, 기존에 알려진 사례들은 이미 개선을 완료했으며, 새롭게 발견되는 표현과 키워드를 추가해 차별이나 혐오 발언이 발견되지 않도록 지속적으로 개선 중”이라고 전했다. 회사 측은 “이루다는 이제 막 사람과의 대화를 시작한 어린아이 같은 AI다. 이 과정에서 이루다는 학습자와의 대화를 그대로 습득하는 것이 아니라, 적절한 답변이 무엇인지, 더 좋은 답변은 무엇인지에 대한 판단을 함께 학습하도록 할 것”이라면서 “이번 학습을 통해 만들게 될 편향 대화 검출 모델은 모든 분들이 사용하실 수 있게 공개할 계획”이라고 말했다. 

개인정보 활용에 관해서는 “회사가 제공하고 있는 서비스 연애의 과학으로 수집한 메시지를 데이터로 활용한 바 있다. 사전에 동의가 이루어진 개인정보취급방침의 범위 내에서 활용한 것이지만, 연애의 과학 사용자분들께서 이 점을 명확히 인지할 수 있도록 충분히  소통하지 못한 점에 대해서 책임을 통감하며 진심으로 사과드린다”고 밝혔다. 

스캐터랩은 "데이터 활용 시 사용자의 닉네임, 이름, 이메일 등의 구체적인 개인 정보는 이미 제거 돼 있다"면서 "전화번호 및 주소 등을 포함한 모든 숫자 정보, 이메일에 포함될 수 있는 영어 등을 삭제해 데이터에 대한 비식별화 및 익명성 조치를 강화해 개인을 특정할 수 있는 정보는 유출되지 않았다"고 말했다. 이어 "향후로는 데이터 사용 동의 절차를  명확하게 하고 식별이 불가능한 정보라도 민감해 보일 수 있는 내용에 대해서는 지속적인 알고리즘 개선을 통해 보완하겠다"며, 일정 시간 서비스 개선 기간을 가질 것을 전했다.