EU의회, 천신만고끝 최종안에 동의, “그러나 회원국별 집행이 문제”
2년 가까운 마라톤 협상, 수정과 번복 거듭, “기술혁신과 규제 균형 논란”
[애플경제 전윤미 기자] 유럽연합(EU)의회가 마침내 세계 최초로 포괄적으로 인공지능을 규제하기 위한 새로운 법률에 합의했다. 그러나 EU 27개국 규제당국의 또 다른 동의와 협력이 전제되어야 하므로 실제 집행이 얼마나 효율적으로 이뤄질지는 두고 봐야 한다는 지적이다.
이는 미국 바이든 행정부의 행정명령과, 앞으로 있을 미 의회의 ‘AI 창조법’과 함께 세계 인공지능 규제의 교범으로 주목받을 전망이다. 특히 그다지 폭넓고 깊이 있는 검토없이, 그저 산업 측면의 예외 조항을 남발한 우리 정부의 AI윤리규정과도 차이가 커서, 특히 관심을 갖고 지켜보며, 벤치마킹해야 한다는 지적도 나오고 있다.
우리 정부, 허술한 ‘AI윤리 규정’과 대조적
8일과 9일 외신을 종합하면, 일단 EU는 각종 정책이나 서비스 운영 과정에서 기업과 정부가 AI를 위험한 용도로 사용하지 못하도록 하는 데 중점을 두었다. 최대 규모의 범용 A.I인 챗GPT 등을 지원하는 시스템은 더욱 새로운 투명성을 보장해야 한다. 특히 ‘딥페이크’와 같이 조작된 이미지를 생성하는 챗봇이나 소프트웨어는 “당신이 보고 있는 것이 AI에 의해 생성된 것”임을 분명히 알리도록 했다.
경찰과 정부 당국 역시 안면 인식 기술을 사용할 경우, 특별히 안전과 관련된 문제나 국가 안보 사안을 제외하곤 규제를 받는다. 만약 이를 위반한 기업은 해당 회사가 전 세계에서 올린 매출의 최대 7%에 해당하는 벌금이 부과될 수 있다.
이번 거래 협상을 도운 유럽 집행위원 티에리 브르통은 성명을 통해 “유럽은 글로벌 표준 설정자로서의 역할의 중요성을 이해하면서 선구자로 자리매김했다”고 의의를 설명했다.
그러나 이 법이 세계 최초로 폭넓은 규제의 획기적인 발전으로 호평을 받았음에도 불구하고 이 법이 얼마나 효과적일지에 대한 의문은 여전히 남아 있다는 지적이다. 애초 지난 2년 가깝게 최종 협상안을 두고 EU 내에선 격론이 벌어졌다. EU 집행위와 의회, 그리고 각국 정부는 인공지능 기술 혁신과 육성, 그리고 이와 반대로 AI로부터 입게될 피해로부터 보호해야 할 필요성 사이의 균형을 맞추는 방법을 놓고 갈등을 거듭해왔다.
이번에도 EU집행위와 의회는 22시간 세션 연장시간을 포함, 3일간이나 마라톤 협상을 벌여왔다. 그 결과 겨우 최종안에 합의했지만, 기술적 세부 사항에 대한 막후 협상에서 또 다시 지연될 가능성이 있어, 그 자세한 내용은 9일 현재까지도 공개되지 않았다. 최종 법안으로 확정되기 위해선 EU의회와, 27개 회원국 대표로 구성된 유럽이사회에서 투표를 해야 한다.
회원국 대표로 구성된 유럽이사회 투표 거쳐야
사실 지난해 챗GPT 출시 이후 EU와 미국 등 주요국들의 AI 규제 발걸음은 한층 빨라졌다. 미국에서는 바이든 행정부가 주로 AI의 국가 안보에 미치는 영향에 초점을 맞춘 행정명령을 내렸다. 영국, 일본 등 기타 국가는 보다 EU나 미국보다는 유연한 접근 방식을 취한 반면, 중국은 데이터 사용 및 추천 알고리즘에만 일부 제한을 가했다.
‘테크크런치’는 “전 세계 A.I.의 추정 가치는 수조 달러에 달한다”면서 “(AI 규제는) 세계 경제를 재편할 것으로 예상되지만, 기술적 지배가 경제적 지배와 정치적 지배에 선행한다”고. 프랑스의 디지털 장관 장 노엘 바로이를 인용, 소개했다.
이같은 전세계적인 AI 규제를 선도한 곳은 유럽이다. EU는 이미 2018년에 법을 만들었다. 그 후 수 년 간에 걸쳐 EU는 의료나 은행 산업에 대한 규제와 마찬가지로 기술에 대한 새로운 수준의 규제와 관리 시스템을 도입하기 위해 노력했다. 그런 과정에서 이미 데이터와 개인 정보 보호, 경쟁 및 콘텐츠 조정과 관련된 광범위한 법률을 제정바 있다.
그러나 AI규제 법안을 위한 노정은 결코 순탄치 않았다. 이를 위한 첫 번째 초안은 이미 2021년에 발표되었다. 그러나 정책 입안자들은 기술적 혁신도 기해야 한다는 주장으로 인해, 다시 초안을 수정하게 되었다. 처음 초안에선 챗GPT와 같은 범용 A.I에 대한 언급이 없었다.
EU 의원들은 특히 개인 정보 보호 측면에서 AI에 대한 강력한 규제를 원하는 경우가 많았지만, 각국 정부는 국가 안보, 국방, 군사 목적을 위해 그 예외를 주장하면서 의견이 첨예하게 갈렸다. 또 27개 회원국 중에서도 서로 의견이 달랐다. 특히 챗봇이 인간과 같은 대화에 참여하고, 질문에 대답하고, 컴퓨터 코드를 작성할 수 있는 기술의 장점을 얼마나 살릴 것인가 하는 문제를 두고도 논란이 끊이질 않았다.
안보, 기술혁신 이슈 두고 EU회원국들 갈등
그럼에도 불구하고, 일단 EU는 각종 애플리케이션 세트가 ‘위험 기반 접근 방식’일 경우 규제 대상에 포함시켰다. A.I를 만드는 기업은 개인과 사회에 가장 잠재적인 해를 끼칠 수 있는 도구에 대해 철저한 규제를 받는다. 이들 기업은 규제 기관에 위험 평가 증거와, 시스템 교육에 사용된 데이터 분석, 소프트웨어가 해를 끼치지 않았다는 보증을 제공해야 한다. 또 인종적 편견의 위험이나, 시스템 생성․배포 전반에 대해서도 관리, 감독을 받도록 했다.
특히 안면 인식 데이터베이스를 만들기 위해 인터넷에서 무차별적으로 이미지를 긁어내는 것과 같은 일부 관행은 완전히 금지된다.
물론 그 과정에서 EU와 의회 내부에선 논란이 뜨거웠다. 최신 AI를 얼마나 깊이 규제해야 하는지에 대해서도 의견이 분분했다. 특히 유럽의 스타트업들이 이 법안으로 인해 불이익을 당할까 두려워하기도 했다.
이번 AI 규제법 제정 과정에서 EU는 전 세계 기업들을 면밀히 관찰한 것으로 전해졌다. 구글, 메타, 마이크로소프트, 오픈AI 등과 같은 개발기업뿐만 아니라 교육, 의료, 은행 등의 분야에서 AI를 사용할 것으로 예상되는 기업들도 두루 포함되었다. 공공기관 역시 마찬가지로 대상이 되고 있다.
“집행 과정선 기업들의 반발, 예산 등 걸림돌 많아”
문제는 실제 이 법이 얼마나 효율적으로 집행될 것인가 하는 문제다. AI법안이 집행되기 위해선 27개 회원국의 규제 당국이 참여하고, 각국이 예산을 투입해 새로운 전문가를 고용해야 한다.
또 규제 대상이 되는 기업이 법적 대응을 할 경우도 적지않을 것으로 예상된다. 실제로 이보다 앞서 시행되고 있는 EU의 일반 데이터 보호 규정(GDPR)으로 알려진 디지털 개인 정보 보호법이 그런 장애물에 처해있다. 그래서 아일랜드 시민자유위원회의 크리스 슈리샤크 선임연구원은 “EU의 규제 능력에 의문이 제기되고 있다”면서 “강력한 집행 능력 없이는 이번 합의의 의미가 크게 감퇴될 것”이라고 밝혔다.
그럼에도 불구하고 로이터통신은 “이번 EU 합의안은 다른 나라들이 참고할 만한 청사진이 될 수 있다”면서 “특히 미국의 가벼운(유연한) 접근 방식과, 임시 규제 방안만을 마련하고 있는 중국같은 나라에겐 새로운 대안을 제시할 수 있을 것”이라고 의미를 부여했다