인간 개입 필수…‘학습데이터량‧실증능력‧데이터 보편성’ 등도 문제
흔히 ‘코로나19’ 대처에도 AI가 매우 요긴한 도구로 활용되고 있다는게 일반의 상식이다. 그러나 최근 미국과 UN, 캐나다, 세계보건기구 등은 그 과정에서 초래되는 AI의 오류나 비정상적 결과값의 우려 등을 경계하며 그 허와 실을 지적하고 있어 눈길을 끈다.
정보통신정책연구원도 이런 내용을 최근 보고서를 통해 전달하면서 AI에 대한 무분별한 기대와 활용을 경고하고 나섰다.
이에 따르면 브루킹스 연구소는 최근 AI를 활용한 ‘코로나19’ 대응의 성과를 과장하거나 인간의 참여 수준을 무시하는 등 AI 역할을 부풀리는 현상을 경계했다. 특히 언론의 AI에 대한 과도한 포장과 보도 역시 ‘코로나19’ 해결을 위한 적정한 AI의 활용을 저해하는 요인으로 지적하기도 했다.
또한 UN의 AI이니셔티브인 ‘글로벌 펄스’와 세계보건기구, 캐나다 밀라퀘벡 AI연구소 등도 AI를 통하 ‘코로나19’ 관련 결과값에 대해 충분한 의료, 과학적 검증과 검토가 부족함을 경고했다. 이들은 ‘코로나19’에 대한 AI활용은 과학적 엄격함고 품질관리 메커니즘을 통하 평가가 필요하다고 강조했다.
우선 AI는 그 예측 과정 및 경과에 대한 인간의 개입이 필수라는 당연한 듯한 사실을 잊지 말아야 한다는 지적이다. 즉 전문지식과 함께 각 분야의 오랜 전문가가 AI를 적절히 활용할 때 비로소 가치가 있다.
예를 들어 역학자들은 천연두 사망률에 대한 수학적 모델을 정립하고 수학적 역학을 개발하는 등 기계학습(ML) 엔지니어가 가질 수 없는 광범위한 지식을 개발한 바 있다. AI시스템은 정확한 예측을 해야 하지만 스스로 온전한 결론을 내는 것이 아닌 인간의 판단에 도움을 주는 형태의 예측이 필요하다.
현재 미국에서도 정부가 사기 범죄 식별이나 주거지 탐지 등에 활용하는 AI시스템은 AI가 최종적으로 결론을 내는 대신, 조사관이나 검사관에서 판단할 수 있는 근거자료를 제공하는 단계에 국한하고 있다.
학습데이터 양에 있어서도 극복해야 할 문제가 많다. AI가 의미있는 결과를 도출하기 위해선 많은 학습 데이터가 필요하다. 현재 ‘코로나19’에 완전히 대응하기 위해 축적된 데이터는 아직도 풍부한 편이라고 할 수 없다는 지적이다.
일부 학자들은 최근 발표되는 기업들의 ‘코로나19’ 대응을 위한 AI성가가 신뢰성있는 데이터를 근간으로 충분히 학습된 결과인지 의문을 제기하고 있다. 또한 정확한 결과와 신뢰성도 문제다. 학습 데이터와 학습과정의 정확성에 대한 충분한 검증이 필요하다.
개발 중에만 작동하는 예측 결과나 정확도만으로 결과를 신뢰하기엔 무리다. 미국방사선학회는 CI이미지 기반의 ‘코로나19’ 진단 AI시스템, 즉 예를 들자면 알리바바의 정확도 96% 진단 시스템과 같은 기술에 대해 학습 데이터 범위와 종류가 중복되고, 결과가 불완전함을 지적하기도 했다.
실증능력 부족도 지적되고 있다. 현실은 실험실 환경보다 훨씬 복잡하고 다양한 변수가 존재한다. 개발 당시의 시뮬레이션을 벗어나 실제 환경에 적용할 때 거의 대부분 성능이 저하되기 마련이다.
실제로 AI로 악성종양을 진단하는 최근 연구논문에선 정확도 높은 실험과 검증에도 불구하고, 실제 적용시 성능이 크게 저하되는 결과를 보이기도 했다. 에를 들어 ‘코로나19’를 독감과 혼동하는 오류도 있었다.
분석의 보편성 여부도 문제다. 즉 AI는 희귀, 대형 이벤트의 발견보다 보편적이고 세부적 분야의 분석에 효과적이라는 지적이다. 또 ‘코로나19’ 환자를 격리하고 감시하는 시스템은 사생활 등 개인정보 습득을 통한 의도치 않은 윤리문제를 야기할 수 있으며 이를 악용할 소지도 큰 만큼 이에 대한 대책이 필요한 실정이다. 일부 미국 기업들은 안면인식 정보를 수집해 정부에 대규모 감시도구를 제공하고 있는 것도 그런 현상의 일환이다.
결과의 편향성도 큰 문제다. 즉 AI모델의 편차, 학습 데이터에 따라 편향된 결과값을 도출할 위험성이 크다. 인종, 성별, 연령, 장애, 지역 등에 따라 AI의 우선 치료대상에 대한 결과값이 편향될 수 있다는 것이다. 또 바이러스 외의 다른 사망 위험요인도 간과할 우려가 크다.