가전제품에 적용된 ‘인공지능’, 완전 신뢰하려면…

[애플경제 김향자 기자] 인공지능 기술과 제품의 부작용에 대한 우려는 갈수록 높아가고 있다. 특히 인공지능 기술이 생활가전이나 일상적 생필품에 적용될 경우 더욱 그런 위험이 커지고 있어 우려를 낳고 있다. 그런 가운데 최근 국가기술표준원이 인공지능이 적용된 가전제품 출시를 소비자들이 안전하게 사용할 수 있게 한다는 취지로 인공지능 응용 제품을 위한 안전관리 지침을 개발하기로 했다.

국가기술표준원은 이를 위해 28일 삼성전자, 엘지(LG)전자, 위니아 등 국내 가전업체와 학계, 연구소 등의 인공지능 전문가들이 참여한 가운데 「인공지능(AI) 응용 가전제품 안전관리 지침」개발을 위한 세미나를 개최했다.

사실 인공지능은 효율성과 효과 측면에서 큰 가치가 있지만, 그 기능이 사용자 목표와 일치하지 않으면 위험을 불러일으킬 수 있다. 예를 들어 사용자의 명령을 잘못 이해하거나, 오해하여 엉뚱하게 작동할 경우 예측할 수 없는 결과를 유발할 수 있다.

또한 인공지능이 수집, 추적, 분석한 개인 데이터는 정보 소유주의 의사와 반하는 용도로 사용될 수 있다. 예컨대 보험 회사는 카메라에 전화하는 모습이 많이 잡힌다는 이유로 보험 가입을 거절하게 될 수도 있다. 개인의 사회적 신용 점수를 토대로 고용주가 성사 직전인 구직 제안을 보류하는 일도 생기게 될 것이다.

이에 “인공지능 응용제품은 새로운 안전관리 제도를 필요로 한다.”는 지적이 높다. 기존 제품은 전기, 기계적 안전 등에 대한 기준을 마련하고 제품출시 전에 안전성을 확인해 왔다. 하지만, 인공지능 응용제품은 사용 과정에서 데이터 손상, 해킹 등으로 오작동할 가능성이 있고, 수시로 업데이트와 자기 학습이 이뤄지기 때문에 제품출시 단계에서의 확인만으로는 안전성을 보장하기 어렵다.

이에 따라, 국표원은 내년 상반기 중 인공지능 응용 가전제품의 특성을 고려한 안전관리지침을 마련할 계획이다. “우선, 제품 사용 중 데이터 손상, 해킹 등과 같은 위험을 방지하기 위한 보안 기능, 알고리즘 유효성 등 인공지능 응용 가전제품의 안전성 평가요소를 마련할 것”이라면서 “나아가선 제품 결함에 대한 사업자와 사용자 간 책임소재, 공급자의 소비자 정보제공 범위 등의 내용도 포함될 예정”이라고 밝혔다.