아마존, “남의 것 아닌, 우리만의 생성AI 챗봇 개발”
[애플경제 이윤순 기자] 아마존(AMZN.O)은 새로운 기업용 챗봇을 통해 대기업 고객을 AWS 클라우드 컴퓨팅 서비스로 유인하려고 안간힘을 쓰고 있다. 생성 AI 경쟁에서 비교적 뒤처졌던 상황을 적극 만회해보려는 노력을 읽힌다.
외신을 종합하면 이날 아마존은 “(타사)챗봇의 결과물로 인해 발생할 수 있는 법적, 평판 위험과 불이익으로부터 고객을 보호해 드릴 것”이라며 자체 챗봇 개발의 배경을 설명했다.
저작권 등 법적 분쟁으로부터 고객보호
아마존이 개발하는 자체 생성AI는 ‘Q라고 이름 붙여졌다. 이는 회사 직원들이 중요한 문서를 요약하고, ’슬랙(Slack)‘과 같은 커뮤니케이션 앱을 통해 채팅할 수 있도록 도와 생산성을 높이도록 설계됐다.
28일 이 회사의 연례 개발자 겸 기술 데모행사인 ‘리-인벤트 2023’에서 AWS CEO 아담 셀립스키는 이런 사실을 발표하는 한편, “이 소프트웨어는 비즈니스 소스 코드를 자동으로 변경하여 개발 속도를 높일 수 있다”고 소개했다.
새로운 소프트웨어는 오픈AI의 챗GPT가 등장하여 생성 AI 스타트업에 대한 열광적인 투자를 촉발한 지 약 1년 후에 출시된 셈이다. 그 동안 알파벳 구글은 직장인들이나 비즈니스맨들의 일상 업무를 돕기 위해 사용자가 인간과 같은 대화를 나눌 수 있는 자체 챗봇을 발표한 바 있다.
이날 AWS CEO 아담 셀립스키는 특히 “‘Guardrails for Bedrock’이라는 생성 AI 앱의 보호막 기능”도 설명했다. 이를 통해 늘 말도 많은 AI의 유해한 콘텐츠를 사용자들은 필터링할 수 있다.
유해 콘텐츠 식별, 걸러내는 기능도
지금의 대부분 생성 AI는 공개적으로 사용 가능한 콘텐츠에 대해 식별 훈련을 받았다. 그 때문에 공격적인 단어나 기타 불쾌한 콘텐츠는 사용자 프롬프트의 결과에서 빠져 나올 수 있다. 특히 젊은 사용자들이나, 글로벌 갈등 상황이나 현장, 시기, 또는 검색 결과의 생성 AI 결과가 의견에 영향을 미칠 수 있는 선거 기간 동안 문제가 될 수도 있다. 이를 제어하고 필터링하기 위한 보호 기능이란 얘기다.
AI위험론을 강조하는 사람들은 “생성 AI가 인간 제작자의 통제를 벗어나 작동할 수 있고, 점점 더 위험한 콘텐츠를 내보내거나 감독 없이 전체 시스템을 작동할 수 있다”고 늘 경고한다. 특히 그들은 “X나 Facebook과 같은 소셜 미디어 사이트에 영향력 있고 설득력 있는 콘텐츠를 게시하는 소프트웨어”에 우려하고 있다.
그러나 셀립스키는 “새로운 챗봇 서비스가 고객들로 하여금 자신들이 사용하는 생성 AI에 적합하다고 생각하는 제한을 둘 수 있도록 했다”고 최대한 가이드라인을 설정했음을 강조했다. 그러면 그는 실제 사례를 들었다.
“예를 들어 은행은 투자 조언 제공을 자제하도록 온라인 도우미를 구성할 수 있다.”라면서 “또는 부적절한 콘텐츠를 방지하기 위해 전자상거래 사이트에서는 온라인 비서가 증오심 표현이나 모욕을 사용하지 않도록 제어 할 수도 있다”고 선을 그었다.
아마존은 또 “Q챗봇이 기업 네트워크를 제어, 액세스해선 안 되는 직원의 민감한 데이터를 보관할 수 있다”고 밝혔습니다.
이번 컨퍼런스에서 아마존은 저작권이 있는 자료의 오용을 근거로 한 소송에 대해서도 고객에게 배상하겠다고 발표했다. 예를 들어, 스톡 사진 회사인 ‘게티 이미지’는 올해 초 ‘스태빌리티 AI’가 사진들의 허가 없이 이미지를 얻기 위해 자사 웹사이트를 스크랩했다고 주장하며 소송을 제기한 사례도 있다며 그 대비책을 강조했다.