전체메뉴

[애플경제 전윤미 기자] 최근 EU의회가 통과시킨 ‘AI법’ 수정 초안이 세계적인 관심을 끌고 있다. 특히 그 속에 담긴 ‘금지된 인공지능’과 ‘고위험 인공지능’의 내용이다. 이는 향후 AI법이 한창 논의 중인 미국을 비롯, 우리나라를 포함한 주요국들의 관련 제도에도 큰 영향을 끼칠 것으로 보인다.

물론 우리나라는 EU보다 AI규제에 소극적인 편이어서, EU 수준의 법 제정은 기대하기 어렵다는게 전문가들의 판단이다. 그럼에도 EU ‘AI법’이 명시한 위험 내지 금지 대상이 되는 AI의 내용을 참조, 인식을 새롭게 해야 한다는 지적이 뒤따른다.

그 중 한국지능정보사회진흥원이 최근 발췌한 내용과 함께 EU 의회가 인사이트를 통해 별도로 공개한 일부 내용에 따르면 우선 금지 대상 AI는 모두 9가지 종류, 그리고 고위험 AI도 크게 8가지 카테고리로 구분된다.

이에 따르면 금지 대상 AI는 애초 원안이 만들어진 후 이사회가 다시 수정하고, 이에 EU의회가 새로운 내용을 추가하는 형식으로 만들어졌다.

원안과 이사회, 의회 수정안 거친 ‘금지 대상 AI’

금지 대상 AI는 사람에게 해를 끼치는 행위를 하기 위해 AI가 동원되는 경우다. 첫 번째 꼽힌 유해한 행위는 AI를 이용해 사람의 행동을 유해한 방식(잠재의식을 활용)으로 조작하는 경우다. 다음으론 역시 AI를 악용, 연령이나 신체적․정신적 장애 등 특정집단의 취약성을 악용하는 경우다.

또한 ▲행정기관 등이 개인의 행동 특성을 기반으로 신뢰도를 · 평가 분류하기 위한 경우나 ▲법 집행 목적으로 공공장소에서 실시간 원격 생체인식정보 시스템을 이용하는 경우 등도 금지된다.

EU의회 특히 별도의 수정안을 제시, 통과시켰다. 우선 ▲민감하거나 보호되는 속성, 특성 또는 그에 따른 추론 등을 통해 자연인을 분류하는 행위다. 또 ▲개인의 과거 범죄 특성을 평가하고, 프로파일링 등에 기반한 범죄 발생을 예측하거나, 범죄 재범 ‧ 위험 평가를 AI를 이용해 하는 행위도 금지된다.

이미 많이 문제가 되고 있듯이, ▲인터넷이나 CCTV영상을 이미지 스크래핑하여 얼굴인식 데이터베이스를 구축 확장하는 행위도 금지된다. 또한 ▲법집행이나, 국경관리, 직장 및 교육기관에서 감정 추론 등을 위해 AI를 활용해서도 안 된다. 이 밖에 ▲공공장소 녹화 영상을 분석할 목적으로 이용해서도 안 된다.

‘생체정보인식 시스템’에 특히 주목

특히 EU ‘AI법’은 ‘생체정보인식 시스템’에 각별히 주목하고 있다. 그래서 공공장소에서의 실시간 생체정보인식 시스템 이용을 원칙적으로 금지하고, 실종아동 수색 등 예외적으로만 허용된다. 그러기 위해선 중요 기반시설의 생명건강 및, 물리적 안전에 대한 구체성과, 상당성, 급박성 요건을 모두 충족하도록 해야 한다.

본래 ‘AI법’ 원안은 실시간 및 사후적 생체인식시스템을 개념적으로는 구분하고 있다. 즉, 사후적 시스템은 수집 이후 상당한 시간이 경과된 후에 수집된 데이터를 처리한다는 점에서 실시간 생체정보 인식 시스템 중심으로 규제하는 것으로 이해됨

나중에 이에 대해 이사회가 또 수정안을 제시했다. 대부분 원안과 유사하지만, ‘급박성’ 요건을 삭제하고, 테러공격 ‘위협’이 아닌 테러공격 ‘예방’으로 수정하는 등 원안보다 실시간 생체정보시스템 이용 예외의 범위를 좀더 확대한 것으로 해석된다.

이에 대해 최종적으로 의회 수정안은 ‘실시간’과 ‘사후적’ 이용 규제를 명확히 구분했다. ‘실시간’ 이용은 ‘예외 없이’ 금지함으로써 원안과 이사회 수정안 보다 더욱 강화했다.

‘사후적 이용’의 경우는 원칙적으로 금지되지만, 법에 따른 법원의 사전 승인(pre-judicial authorization) 대상이거나, 중대 범죄 위반과 관련된 자의 수색(targeted search)을 위해 엄격히 필요한 경우에만 예외적으로 허용키로 했다.

9가지 고위험 인공지능군도 제시

EU의회는 또 9가지 고위험 인공지능군(群)을 제시했다. 그 중 중요한 내용을 보면, 원안의 ‘생채즉정 및 생체측정 기반 시스템’에 이사회가 ‘디지털 기반시설’을 추가했고, 의회가 ‘중요 인프라의 관리 운영’을 또한 추가했다.

또 (AI를 사용한) ‘학생 평가 시스템 구체화 교육 및 직업훈련’을 의회가 새로 추가했다. 이는 “개인에게 적합한 교육수준을 평가하는 등의 목적으로 사용되는 (AI) 시스템이나, 시험실시 중 학생들의 금지 행동 탐지 및 감시 목적으로 사용되는 (AI)시스템”이다.

또 보조금과 필수 개인서비스 및 공공서비스에 대한 접근 및 향유를 위한 AI시스템도 고위험 인공지능으로 분류됐다. 이에 이사회는 다시 ‘생명 건강 보험에서의 위험 평가 및 가격결정(을 위한 AI시스템’을 추가했다. 의회는 다시 원안의 ‘공공서비스’를 ‘주택 전기 냉난방 인터넷 등’으로 구체화했다. 또 ‘신용평가 관련 금융사기 탐지 목적의 시스템을 제외할 것’을 명시했다.

또 ‘AI법’은 법 집행을 위해 적용되는 AI를 고위험군으로 분류했다. 그러나 이사회는 그 중 딥페이크 여부를 탐지하고, 개인 범죄 분석 목적 AI를 삭제했다. 또 의회는 개인의 공격성이나 재범 위험 등 분석, 딥페이크 프로파일링 등 기반 범죄 예측 AI 등을 삭제했다.

이민 망명 및 국경 통제 관리용 AI도 고위험 인공지능으로 분류되었다. 그러나 이사회는 여행문서 여권 등의 진위 입증 AI를 그 목록에서 제외했다. 의회는 특히 △국경관리시 감시 감독 처리에 개인식별 목적으로 데이터를 사용하는 시스템과, △이민의 이동 상황, 국경횡단 동향 전망 예측에 사용되는 시스템을 추가했다.

이 밖에 ‘사법행정 및 민주적 절차’를 위한 AI도 고위험군으로 분류되었다. 의회는 다시 ‘선거 또는 투표 결과에 영향을 줄 목적으로 사용되는 AI시스템’, ‘대규모 온라인 플랫폼으로 지정된 소셜 미디어 플랫폼에서 사용되는 서비스 추천 AI시스템’을 고위험군으로 추가했다.