유엔 자문그룹, “유엔에 AI에 대한 글로벌 거버넌스 기반” 촉구
‘AI에 대한 국제 과학 패널’, ‘AI 거버넌스 글로벌 대화’ 등 권고안
국가 간 AI기술 격차 해소, 글로벌 AI 기금, 기술적 표준 강조
[애플경제 이보영 기자] 범지구적 차원에서 인공지능 기술을 관리할 수 있는 강력한 기구를 유엔 산하에 신설할 수도 있다는 목소리가 나오고 있다. 20일 AP통신 등에 따르면 ‘유엔 자문 그룹’은 “인공지능의 글로벌 거버넌스가 ‘필수적’이라며, 이를 위해 (EU 등과는 별개로) 유엔에 빠르게 성장하는 이 기술을 규제할 최초의 포괄적 글로벌 기관을 마련해야 한다”고 촉구했다.
자문 그룹은 지난해 10월 2,000명 이상의 후보자 중에서 선정된 33개국의 저명한 AI 리더 39명으로 구성되어 있다. 이들은 전 세계 모든 지역을 대표하고, 개인 자격으로 활동하며 정부, 민간 부문, 시민 사회의 전문가를 포함한다.
이 그룹은 100페이지 분량의 보고서에서 “AI가 우리 세계를 변화시키고 있다”며, “AI는 새로운 과학 분야를 개척하고 경제 성장을 가속화하는 것부터 공중 보건, 농업을 개선하고 에너지 그리드를 최적화하는 것까지 엄청난 잠재력을 제공한다”고 강조했다.
자문 그룹은 “하지만 통제되지 않은 채로 두면 AI의 이점은 소수의 국가, 회사, 개인에게만 국한될 수 있다”고 지적했다. 특히 “오늘날 존재하는 것보다 훨씬 더 강력한 AI시스템은 자칫 세계를 뒤집을 수 있고, 자율 무기를 만들어내며, 평화와 안보에 위험을 초래할 수 있다”면서 이같이 촉구했다.
AI, 통제되지 않으면, 평화와 안보 위험 초래
자문 그룹은 또한 국제법, 특히 인권법을 포함하여 AI를 통제하는 새로운 기관의 설립을 위한 원칙을 설명했다. 그러면서 “AI에 관련된 모든 정부와 당사자들이 인권을 보호하도록 협력할 것”을 당부하기도 했다. 이같은 주장은 현재 예상하기론 기존 국제원자력기구와 같은 위상을 지닌 기구를 떠올리기도 한다.
이 그룹은 그러면서 구체적인 ‘권고안’도 제시했다. 즉, AI의 역량과 위험에 대한 글로벌 이해를 확산하기 위해 ‘AI에 대한 국제 과학 패널’을 설립하고, ‘미래 기관을 인권 원칙’과 국제법에 반영하기 위해 유엔에서 ‘AI 거버넌스에 대한 글로벌 대화’를 포함한 광범위한 권고안을 내놓았다.
이 권고안은 또한 “AI기술이 부유국과 빈곤국 간의 격차를 메우고, 2030년 유엔 개발 목표 달성을 촉진하기 위한 ‘글로벌 AI 기금’과 ‘기술적 호환성’을 촉진하기 위한 ‘표준’을 구축할 것”도 요구했다.
현재 이 그룹이 이처럼 제시한 ‘AI 거버넌스 이니셔티브’엔 193개 유엔 회원국 중 7개국만이 참여하고 있다. ‘글로벌 사우스’를 포함한 118개국은 이를 위한 대화에도 “전혀 참가하지 않고 있다”고 밝혔다.
이 그룹의 보고서는 지난 8월 1일에 발효된 유럽 연합 최초의 AI 규제 법적 틀도 언급하고 있다. 한편 9월 들어 G20은 인공 지능 개발 지침을 수립하기로 합의한 바 있다. 이 지침은 AI에 대한 인간의 감독과 개인정보 보호, 인권법 준수를 통해 “윤리적이고 투명하며 책임감 있는 AI 사용”을 요구하고 있다. 또 세계 최대의 AI 기업들이 몰려있는 미국 캘리포니아 ㅡ의회는 최근 AI 규제 법안을 채택했으며, 개빈 뉴섬 주지사는 그 중 일부 법안에 서명하기도 했다.
자문 그룹 보고서는 긍정적이지만 신중한 결론을 내렸다. 즉 “전문가로서 우리는 AI의 미래와 긍정적인 잠재력에 대해 낙관적”이라며 “그러나 그러한 낙관주의는 현재 우려되는 위험과 부적절한 구조와 인센티브가 향후 어떻게 최소화될 것인가에 달려있다”고 지적했다.
그러면서 “AI기술은 너무나 중요하고 위험 부담이 너무 커서 시장이나 국가, 혹은 다자간 협력이라는 단편적인 대응에만 의존할 수는 없다”며 UN 차원의 글로벌 기구의 필요성을 다시금 강조했다.
“AI위험성, 시장, 국가 간 단편적 대응으론 부족”
앞서 안토니우 구테흐스 유엔 사무총장은 작년 10월 해당 자문 그룹을 설치하면서 “인공지능의 위협이 통제되지 않는 ‘괴물’이 되는 것을 막기 위해 이를 조정할 수 있는 조치가 필요하다”고 강조한 바 있다. 또한 구테흐스 총장은 20일 자문 그룹의 활동을 높이 평가하며, “기존의 노력을 바탕으로 포괄적이고 민첩하며 효과적인 국제 AI 아키텍처를 형성하기 위한 청사진을 권장”하는데 대해 전적인 지지를 표명했다.
앞서 사무총장이 작년에 기자들에게 자문 그룹을 임명할 계획이라고 밝혔을때도 그는 인공지능에 관련된 새로운 유엔 기구에 호의적인 반응을 보였다. 나아가서 “지식 기반의 규제 권한이 있는 국제원자력기구”를 모델로 제안하기도 했다.
다만 자문 그룹은 현재로선 유엔 산하 AI 관련 기구 설립을 (명시적으로) 권고하지는 않는다고 했다. 사무총장의 기술 특사이자 자문 그룹의 일원인 아만딥 싱 길은 보고서를 발표하는 기자 회견에서 “지금으로서는 기구가 필요하지 않지만, 그렇다고 결코 필요하지 않을 것이라고 말하는 것은 아니다.”라고 여지를 남겼다. 그는 그러면서 이사회가 그 가능성을 연구하기를 원한다고 덧붙였다.