기본권 헌장, GDPR, 법집행지침(LED) 등 엄격한 규정
2단계의 ‘고위험 AI 시스템’ 기반 기술에 대한 규제가 핵심
정보통신기획평가원, EU의 안면인식 기술 규제 집중 조명
[애플경제 김홍기 기자]중국이나 인도를 필두로 세계 각국에서 안면인식 기술은 이제 필수적인 사회적 수단으로 자리잡고 있다. 국내에서도 금융계를 중심으로 정차 폭넓게 생활화되고 있다. 그러나 개인의 안면을 인식하여 감시와 추적을 한다는 점에서 이에 대한 세계 각국의 법적, 제도적 규제도 활발히 이어지고 있다. 이에 대해선 AI의 부작용에 대해 가장 적극적으로 대처해온 EU가 가장 적극적이다. 또 미국이나 중국도 나름대로 규제책을 모색하거나, 시행하고 있다. 이는 안면인식기술의 대중화를 앞두고 있는 국내에서도 벤치마킹 대상으로 주목받고 있다.
‘유럽 평의회’는 각국 정부와 안면인식 개발자, 제조업체, 서비스 제공자 및 이를 사용하는 단체를 대상으로 한 안면인식에 관한 규제 지침을 지난해 7월 마련했다. 정보통신기획평가원 디지털경제연구실의 안명옥 부연구위원은 최근 이에 관한 인사이트를 통해 “유럽연합은 특히 안면인식 기술이 데이터 보호, 개인정보보호, 편향성 및 차별성, 대규모 감시와 기본권 침해 등 여러 가지 문제를 초래할 수 있다고 본다”며 “기업의 자정 노력과 각국 정부의 규제 움직임을 견인하고 있다.”고 전했다.
안 부연구위원의 연구 결과에 따르면 특히 보통의 유럽연합(EU) 시민들은 안면인식 기술에 대해 다소 신중한 접근이 필요하다고 조사되고 있다. 즉 “사람의 자동 식별 및 추적 가능성은 시민의 사회적, 심리적 행동에 미치는 영향이 크기때문에 그러한 기술의 사용으로 제기되는 윤리적 문제에 대해 올바른 규제 체계 마련이 필요하다”고 응답한 것으로 나타났다.
이에 EU는 이에 관한 기본권 헌장(CFR), 일반개인정보보호법(GDPR), 법집행지침(LED)에서 엄격한 규정을 적용하고 있다. 우선 △AI에 기반한 안면인식 시스템 운영자는 알고리즘 차별성을 줄이기 위해 적절한 기술적 조치를 마련해야 한다. 또 △규제 당국은 운영자가 사생활보호 및 차별금지의 근본적인 근거를 우회하지 않도록 ‘비차별 프레임워크’를 강화하고 확장하는 노력을 지속해야 한다고 규정했다.
이와 함께 ‘EU 집행위원회’는 지난해 4월 고위험 분야에 인공지능 사용을 규제하는 AI 규제 법안을 발표하면서 안면인식 기술을 포함한 생체인식 시스템 사용을 제한했다. 특히 유럽연합에서 2018년 5월 25일부터 시행하고 있는 일반개인정보보호법(GDPR)이 정보보호에 관한 일반법이라면, ‘AI 규제 법안’은 안면인식 기술 및 다른 고위험 AI 애플리케이션 사용을 규제하는 특별법이다.
유럽연합은 디지털 영역에서 개인정보보호를 위해 GDPR을 시행, 안면인식 데이터를 비롯한 생체인식정보에 대한 일부 보호 기능을 포함하고 있다. “그러나 급증하는 안면인식 기술
사용을 규제하기 위해 AI 규제 법안을 제정하여 고위험 AI 애플리케이션 사용을 규제하고 있다.”는 안 부연구위원의 분석이다. 이에 따르면 테러 공격 예방, 실종아동 찾기, 기타 공공 보안, 비상 상황 대처 등을 제외하고 법집행 기관에서 안면인식 기술 및 실시간 원격 생체인식 시스템 사용을 금지하고 있다.
특히 “구글, 마이크로소프트, 바이두, 텐센트 등 글로벌 빅테크 기업들은 유럽 소비자 및 기업과 거래하기 위해서는 새로운 규정을 준수해야 한다”면서 “이러한 금지 조치 또는 데이터 요구 조건을 준수하지 않을 경우 최대 3천만 유로, 또는 전년도 기업 총 매출액의 최대 6%를 벌금으로 부과하는 등의 규제 조치가 취해질 것으로 알려졌다”고 전했다.
안 위원은 또 “유럽연합의 AI 규제 법안은 위험 기반의 접근방식(risk-based approach)을 취하고 있다”고 특징지으며 “AI 시스템을 4단계로 구분하여 신뢰성이 높고 인간 중심의 AI가 혁신과 경제 성장을 이끌도록 하는 것을 핵심 목표로 설정하고 있다”고 적시했다.
이에 따르면 AI 규제 법안 중 2단계의 ‘고위험 AI 시스템’에 대한 정부 규제가 핵심이다. 다수의 안면인식 기술은 금지되거나, 엄격한 요구사항을 준수해야 하는 고위험 시스템으로 간주되고 있다. EU 회원국은 이에 따라 “중요 공공 보안상의 이유로 승인을 선택할 수 있고, 적절한 사법적 또는 행정적 승인이 부여되지 않는 한, 법 집행 목적으로 공개적으로 접근 가능한 공간에서 실시간 안면인식 시스템의 사용을 금지한다”고 밝혔다.
하지만 법 집행 이외의 목적으로 사용되는 광범위한 안면인식 기술은 허용된다. 예를 들어 국경 통제나, 시장, 대중교통, 학교 등은 EU 시장에 진입하기 이전에 적합성 평가 및 안전성 요구사항 준수를 조건으로 허용되고 있다. 또한 “분류 목적으로 사용되는 안면인식 시스템은 저위험 시스템으로 간주되며, 제한된 투명성과 정보 요구사항만을 적용한다”는 설명이다.
이와 함께 유럽의회는 경찰이 공공장소에 안면인식 기술을 사용하거나, 개인 안면인식 데이터베이스를 축적하는 것을 금지하는 결의안을 지난해 10월 통과시켰다. 그런 가운데 정책입안자들은 안면인식 시스템 사용을 통제하기 위한 법적 규제를 마련하는 등 규제의 움직임이 가속화되고 있다.
한편 안 위원은 EU의 AI규제에 근거해 ‘안면인식 시스템 규제’ 시나리오를 <표>로 제시하고 있다. 우선 △법 집행 목적으로 접근할 수 있는 가능한 공개 공간에서 실시간 또는 원격으로 안면인식 시스템을 적용하는 것은 원칙적으로 금지된다. 용인할 수 없는 위험도의 AI기술을 기반으로 한 것이다. 그러나 특정 예외에 대해선 ‘고위험’ 수준의 AI 기술을 바탕으로 한 안면인식 기술이 허용된다. 즉 범죄 피해자 수색이나, 생명, 신체적 무결성, 테러리즘에 대한 위협, 중범죄(EU체포영장) 등이 이에 해당된다. 다만 이런 경우도 사법 기관이나 독립 행정기관의 사전 승인을 얻어야 한다.
또 △기타 안면인식(실시간 또는 사후 식별 시스템)기술의 경우는 ‘고위험’ AI 수준이 허용된다. 다만 시장에 출시되기 이전의 요구사항을 충족하고, 사전 적합성 평가(자체 또는 제3자), 사후 시장 감시 및 감독을 조건으로 한다. 이 밖에 △분류 목적의 안면인식 시스템은 ‘저위험’ 수준의 AI기술에 한해 허용된다. 다만 투명성과 정보 보호과 그 조건으로 제시된다.