전체메뉴

[애플경제 김예지 기자] 미국과 EU, 영국 등 8개국이 사상 처음으로 ‘국제 AI 조약’을 맺고 서명했다. 정식 명칭은 ‘인공지능(AI)과 인권, 민주주의, 법치주의에 관한 기본 협약’이다. 이들 가입국들은 AI 사용이 인권, 민주주의, 법률에 부합하도록 하는 조치를 적용해야 한다.

이 조약은 “가입국이 AI 사용이 인권, 민주주의, 법률에 부합하도록 하는 조치를 채택하거나 유지하도록 해야한다”고 규정하면서, “특히 편향된 훈련 데이터와 같은 AI 모델의 내재적 위험과 잘못된 정보 확산과 같은 오용의 위험으로부터 대중을 보호해야 한다”고 천명하고 있다.

“AI모델의 위험, 잘못된 정보로부터 대중 보호”

외신을 종합하면 이들 가입국은 지난 5일 리투아니아 빌니우스에서 열린 유럽 평의회 법무부 장관 회의에서 서명, 각국 의회 승인을 통한 발효를 앞두고 있다. 현재 가입국은 안도라, EU, 조지아, 아이슬란드, 이스라엘, 노르웨이, 몰도바 공화국, 산마리노, 영국, 미국 등이다.

이 조약은 지난 2023년 11월에 28개국이 서명한 ‘블레츨리 선언’을 포함, AI 위험을 억제하는 것을 목표로 하는 최초의 공식적인 국제 조약이다. 앞으로 이 조약에는 더 많은 국가들이 가입할 것으로 예상된다. 이미 유럽 평의회 회원국 39개국과 아르헨티나, 호주, 캐나다, 코스타리카, 교황청, 일본, 멕시코, 페루, 우루과이 등 9개 비회원국이 가입을 타진하고 있다.

샤바나 마흐무드 영국 법무장관은 이나라 서명 후 성명을 통해 “인공지능은 공공 서비스의 대응성과 효과를 근본적으로 개선하고, 경제 성장을 촉진할 수 있는 능력을 가지고 있다”면서도 “그러나 우리는 AI가 우리를 형성하도록 내버려 두어서는 안 된다. 우리가 AI를 형성해야 한다”고 회원국의 입장을 대변했다. 그는 그러면서 “이 조약은 인권과 법치주의와 같은 우리의 가장 오래된 가치를 침식하지 않고, 이러한 새로운 기술을 활용할 수 있도록 하는 중요한 단계”라고 의미를 부여했다.

유럽 ​​평의회 사무총장인 마리야 페이치노비치 부리치는 보도자료에서 “우리는 AI의 부상이 우리의 기준을 훼손하는 것이 아니라 지지하도록 해야한다. 이번 조약은 바로 그것을 보장하기 위해 고안되었다.”고 밝혔다. 그는 또 “이번 조약이 많은 협약과 약속의 첫 번째가 되기를 바라며, 각국에서 비준이 신속하게 이루어져 조약이 가능한 한 빨리 발효되기를 바란다”고 말했다.

5번째 국가 비준하게될 10월1일 발효

이 조약은 지난 5월 17일 유럽 평의회 각료 위원회에서 채택되었다. 조약이 발효되려면 최소 3개 유럽 평의회 회원국을 포함한 5개 서명국이 비준해야 한다. 발효는 5번째 국가가 비준하는 3개월 후인 다음 달 1일에 이루어진다.

이 조약은 지난달 발효된 EU의 AI법과는 별개다. 유럽 평의회는 EU와 다른 46개 회원국으로 구성된 조직이며, 비EU 국가도 서명할 수 있기 때문이다. 이번 ‘AI 조약’은 지난 2019년부터 논의되었다. 2022년에 유럽 평의회 이사회의 인공지능 위원회에 의해 추진되었고, 지난 5월 17일에 공식적으로 채택되었다.

이번 ‘국제 AI 조약’은 인권, 민주주의, 법치주의를 보호하기 위해 가입국에 의무를 부과하고 있다. 우선 AI 시스템이 인간 존엄성, 자율성, 평등, 차별 금지, 프라이버시, 투명성, 책임성, 신뢰성을 존중하도록 해야 한다. AI를 사용하여 내린 결정에 대한 정보를 제공하고, AI 자체의 사용에 이의를 제기할 수 있도록 한다.

AI에 대한 불만을 제기할 수 있는 메커니즘과 AI 상호 작용에 대한 통지 등을 포함한 절차적 보호 조치를 제공한다. 인권에 끼치는 영향에 대한 지속적인 위험 평가를 수행하고, 보호 조치를 마련한다. 특히 “필요한 경우 당국이 특정 AI 애플리케이션을 금지하거나 일시 중단할 수 있도록 한다”고 강행 규정도 명시하고 있다.

이 조약은 영국 건강보험제도(NHS)와 같은 공공 기관과, 민간 기업이 AI 시스템을 사용하는 것을 대상으로 한다. 국가 안보, 국방 문제 또는 연구 개발과 관련된 활동에는 적용되지 않지만, 인권, 민주주의 또는 법치주의를 방해할 가능성이 있는 경우엔 적극 개입한다.

영국 정부에 따르면, 이 조약은 ‘온라인 안전법’과 같은 기존 법률과 조치를 개선하는데도 초점을 두고 있다. 또한 규제 기관, 위임 행정부 및 지방 자치 단체와 협력하여 조약의 요구 사항을 이행할 수 있도록 한다. 조약 당사국의 공식 대표로 구성된 그룹인 ‘당사국 회의’에서 조약 사항이 어느 정도 이행되고 있는지 판단하고, 권장 사항을 제시한다.

“지나치게 제한적이지 않도록 할 것” 명시도

이는 또 AI를 규제하는 동시에 “여전히 진보와 혁신을 촉진한다”고 규정하고 있다. 예를 들어 영국 정부는 정책을 통해 조약에 규정한 의무를 준수하면서도 혁신을 추구함으로써 ‘균형’을 유지하려고 시도할 계획이다. 다만 AI 개발자에 대한 관리와 규제는 강력하게 할 예정이다.

또한 조약 취지에 따라 각국 정부는 강력한 인공지능 모델을 개발하는 사람들에게 요구 사항을 부과하는 적절한 법률을 제정하기로 했다. 그 중엔 특히 가장 강력한 AI 모델을 개발하는 소수의 회사에 대한 구속력 있는 규제를 도입하겠다는 결의도 들어있다. 특히 영국의 경우는 “안전 프레임워크를 강화하기 위해 인공지능의 힘을 활용할 것”이라고 밝혀 눈길을 끈다.

다만 기술 회사에 대해 AI 법안이 지나치게 제한적이지 않도록 한다는 방침도 유지된다. 이조약도 규제와 혁신의 균형을 중시하고 있다는 얘기다. 모든 회원국들은 비준과 함께 이같은 조약 정신을 바탕으로 한 입법을 서두를 것으로 보인다.