전체메뉴

보험산업에도 점차 AI가 도입되면서 새삼 그 부작용이나 윤리 문제가 제기되고 있다.

최근 보험개발원에 따르면 해외는 물론 국내에서도 보험상품 판매에서부터 위험관리, 지급과 보상, 고객관리 등 보험산업 전반에 걸쳐 AI를 도입했거나 도입을 계획하고 있는 중이다.

실제로 보험산업에서의 AI는 영업지원, 보험상품 분석과 제안, 질병 예측과 예방, 질병 진단 서비스, 손해조사 효율화, 청구 및 보상 자동화, 콜센터 자동화 등 사실상 인간을 대체할 만한 수준으로 고도화되고 있는 것으로 전해지고 있다.

기존의 설계사나 손해사정인, 보험계리사 등의 역할을 충실히 수행하고 있다는 뜻이다. 그러나 최근 보험연구원과 보험개발원은 전문가 위주의 세미나와 일련의 보고서 등을 통해 “보험은 소비자의 이해관계가 첨예한 분야인 만큼 AI 윤리문제의 영향을 크게 받을 수 있다”고 문제를 제기하고 있다.

즉 “데이터가 차별적인 요소를 포함하지 않더라도 특정 집단에게 유리한 데이터가 많이 사용될 경우 AI의 판단은 편향될 수 있다”면서 “특히 ‘보험 가치사슬’ 각 단계에서 추구해야 하는 목표가 잘못 설정되거나 명확하지 않을 경우 의사결정이 잘못될 수 있음”을 강조했다.

이에 따르면 AI는 상품개발에서부터 보험금 청구와 지급에 이르기까지 자칫 오작동과 오류로 인해 소비자에게 매우 불리한 결과를 도출할 수 있다. 예를 들어 상품개발 단계에서도 편향된 취향이나 특성을 지닌 소비자군을 대상으로 삼을 수도 있다. 그 결과 보험료를 엉뚱하게 산출하거나 소비자와의 충분한 교감이 없이 왜곡된 정보를 기반으로 한 언더라이팅(서명 등)을 유도할 수 있다는 지적이다.

보험연구원의 김규동 연구위원은 관련 세미나를 통해 “특히 AI의 ‘편견’으로 인해 특정 집단에나 어울리는 과도하거나 편향된 가격을 매겨, 결국 차별하는 결과를 가져오기도 한다”면서 “더욱이 마케팅이나 판매 단계에선 편향된 상품을 소비자에게 권유할 수 있고 편향된 데이터라벨링으로 인해 의도적으로 특정 상품을 권유할 수도 있다. 위험관리나 계약관리 단계에서도 역시 편향된 정보로 인해 잘못된 서비스를 제공할 가능성이 크다”고 우려했다.

그는 또 “보험금 청구와 지급 심사 과정에서도 편향된 심사 기준이 적용되거나 지급될 수 없는 사유를 제대로 설명하지 못해 분규를 유발할 우려도 크다”고 지적했다. 이 모든 과정에서 늘 개인정보를 침해할 가능성도 많다는 전문가들의 우려를 보여주는 대목이다.

이에 전문가들은 보험업계의 엄격한 AI윤리규정을 제기하고 있다. 그러나 현실적으로 국내 보험업계에선 AI의 윤리와 알고리즘의 문제점을 인식하고 있음에도, 적절한 방식으로 대응하지 못하고 있는 경우가 더 많은 것으로 전해지고 있다. 아예 이런 문제점과 AI에 대한 대중적 불신과 부정적 인식으로 인해 AI 기술 도입 속도를 늦추고 있는 경우도 훨씬 더 많다는게 현장의 분위기다.

그러나 “AI전문가를 배치하고 관련 이사회를구성한 후 AI 시스템을 감사하고 테스트하는 절차를 수립해야 하며 외부와의 협력하는 등의 방식도 필요하다”는 보험개발원의 권유다.

이에 따르면 특히 엄격한 데이터 관리를 비롯해, 보험가치사슬 각 단계의 목적이 구체적이고 명확히 규정된 AI 윤리기준이 필요하다는 지적이다. 또 데이터 품질을 정기적으로 관리·개선하고 공정성 확보를 위한 데이터 편향성 관리가 필요하다. 다만 그 과정에서도 역시 사용자의 의지가 반영된 또 다른 편향성이 반영될 수 있다는 우려도 뒤따른다.

애초 AI를 위한 데이터라벨링 과정에서 특정 정보를 사용하는 자체가 불공정하거나 대표성이 결여되거나 편향성이 내포된 데이터를 사용하면 공정성이 훼손될 가능성이 크다. 또 AI가 학습 단계에서 차별적 작동을 학습하거나 AI 설계 목적이 이용자의 이익과 불일치하는 경우도 편향된 결과를 도출할 수 밖에 없다.

김규동 연구위원은 이런 우려스런 상황을 전제하며 “엄격한 데이터 관리와 명확한 목적 설정은 AI의 개인정보보호와 공정성, 신뢰성, 투명성을 향상시키며 책임성을 높이는 수단이 될 것”이라며 “결국 모든 절차와 기준은 인간 보편적인 윤리기준에 부합하도록 이해 관계자들의 공감대 형성을 통해 제정 되어야 할 것”이라고 주문했다.