일부 외신ㆍ업계 전문가들 “사용자의 모든 말과 행동, 아마존 서버에 저장”
낯선 누군가가 사용자가 인공지능 비서 ‘알렉사’에 대해 내리는 명령이나 사소한 대화 하나까지 엿듣는다면 어떠할까.
그야말로 이는 악몽일 수도 있다. 최근 일부 외신에선 아마존 알렉사를 통해 개인의 세세한 사생활 하나하나가 이를 작동하는 프로세스 뒤켠에 숨어있는 인간들(아마존 혹은 알렉사 운용 하청기업)이 엿듣고 기록하며 저장해둘 수도 있다는 우려를 제기해 비상한 관심을 끌고 있다.
이에 따르면 이른바 ‘프라이버시 플리즈(Privacy Please)’, 즉 디지털 사회에서 개인의 내밀한 사생활 정보가 어떤 방식으로 유출되는가를 알려주고 그 대응 방안도 제시하는 플랫폼이 어느 때보다 중요하다는 지적이다.
사실 알렉사는 이에 대고 몇 마디 명령만 내리면, 지구 반대편의 기상예보를 실시간으로 알아내는 건 물론 언제든 현관 앞에 필요한 물건을 배달시키거나 건강과 의학 정보도 척척 알수 있게 한다. 그러나 그런 마법과도 같은 기능을 지닌 알렉사는 정작 그런 놀라운 능력과 작동 이면에 과연 누군가가 숨어있지나 않은지 주목할 필요가 있다.
실제로 알렉사를 구동하는 에코의 경우 수많은 기술과 관련 엔지니어들이 그 이면에서 작동에 참여하고 있다. 현대 디지털 사회의 ‘스마트 AI’가 대부분 그렇듯이, 알렉사 역시 사용자의 대화나 각종 주문과 명령어 등을 기계 뒤에 숨어서 이를 듣고 있는 실제 인간들에게 전적으로 의존할 수 밖에 없는 것이다.
아마존은 이를 ‘머신 러닝 관리자’라고 부르며, 당연시하고 있다. 즉 보수를 받고 일하는 낯선 이들(기술 엔지니어, 운영자 등)이 사용자의 곁에 몰래 머물면서, ‘산업 표준 관행’에 따라 사용자의 매우 사소한 대화 하나까지 모두 분석, 해독함으로써 알렉사에게 주어진 명령이나 요구를 정확히 해석하고, 재빨리 적절한 답을 제시하도록 한다는 설명이다.
흔히 사람들은 아무도 지켜보고 있지 않다고 믿을 때 자신만의 진심이나 진실을 털어놓기도 한다. 사용자는 흔히 ‘설마 누가 듣겠나’ 싶어 사용자 혼자서 큰 목소리로 중얼거리며 반문하거나 두려운 나머지 외마디 소리를 내지를 수도 있다. 다시 말해 이 모든 것이 아마존으로부터 보수나 대가를 받고 일하는 소수의 사람들에게 빠짐없이 모두 전해지고 저장되는 것이다.
그러면 대체 그렇게 얻은 사용자들의 정보와 목소리로 아마존은 무엇을 하려고 할까. 업계 전문가들은 “일단은 그렇게 수집한 사용자 정보를 바탕으로 아마존은 음성 인식 소프트웨어를 개선하거나 관련 기술을 더욱 발달시키는데 쓸 것으로 보인다.”고 해석했다.
실제로 그 동안 알렉사는 사용자가 아침 알람 명령어를 말하지도 않았는데, 잘못된 신호를 보내는 등 오작동이 없지 않았다. 예를 들어 라디오나 TV에서 사람이나 사물의 명칭으로 ‘알렉스’ 또는 ‘알렉사’라는 소리가 나올때처럼, 전혀 뜻이 다르지만 비슷한 발음의 단어나 음성을 알람 명령어로 착각하는 경우도 있다.
그처럼 전혀 엉뚱한 상황임에도 불구하고, 아마존 기술자들은 알렉사의 잘못된 해석을 그대로 저장할 수도 있다. 사소한 일기예보처럼 전혀 악의없는 정보일 수도 있지만, 때로는 사용자가 감추고 싶은 ‘알코올 중독자 모임’ 혹은 ‘단주 동맹’과 같은 은밀한 정보인 경우도 있을 수 있다는게 문제다. 그 때문에 아마존은 큰 돈을 들여가며, 알렉사에 입력되는 온갖 사용자의 언어나 명령을 듣고 해석하면서 서비스를 개선하려는 노력을 기울이고 있다.
이런 문제를 지적한 외신 중에서도 특히 <블룸버그>는 일찌감치 아마존으로부터 이런 프로젝트를 위탁받은 업체들을 심층 취재했다. 그 결과 이들 업자들은 알렉사의 잘못된 오작동으로 인해 사용자의 명령을 잘못 알아듣고 행동한 사례를 하루 평균 100개 가량이나 수집한 것으로 알려졌다. 그 중엔 사용자의 개인 은행 거래 내역 뿐 아니라, 심지어 성추행과 같은 치명적인 내용도 들어있었다.
더욱 심각한 것은 그런 일을 맡고 있는 업체 관계자들 중엔 알렉사를 통해 사용자의 집 주소나 사는 곳까지 정확히 알고 있었다. 일단 주소지나 사는 위치를 알기만 하면, 이름 등 신상정보를 알아내는 것은 시간 문제라는 지적이다.
그렇다면 에코 프로그램 자체를 아예 새로 설정하는 것처럼 극단적인 방식을 취하지 않더라도 뭔가 해결 방법은 있지 않을까. 전문가들은 일단 “알렉사 사용자들은 자신의 모든 정보가 아마존의 미래 사업이나 기술 개발을 위해 이 회사의 서버에 모조리 저장된다는 것을 깨달아야 한다”고 주문한다. 그러나 만약 자신의 정보를 삭제해줄 것을 요청할 경우도 아마존 측은 적어도 30일 이상 복사본을 저장하는 것을 원칙으로 삼고 있어, 논란의 소지가 크다.
결론적으로 말해 아마존의 에코는 잠재적인 사생활 침해꾼으로 비판받을 만하다는게 <블룸버그> 등 외신과 전문가들의 지적이다. 다행히 사용자들이 이에 대응할 수 있긴 하지만, 그 과정이 앞서 얘기했듯이 복잡하기 짝이 없다.
이들 전문가들은 “기본적으로 아마존 에코를 비롯한 알렉사 기반의 장치들은 사용자의 정보를 남김없이 저장하고 있다.”면서 “만약 최소한이나마 이에 대응하기 위해선 아마존측에 대해 명확하게 ‘제발 부탁이니 사양하겠다’는 의사를 분명히 밝히거나, 아예 탈퇴하는게 낫다”고 조언하고 있다.