전체메뉴

[애플경제 전윤미 기자] EU의 ‘AI법’은 안전과 투명성과 ‘혁신적인 잠재력’, 즉 기술발전 간의 균형을 맞추는 방식으로 인공지능 사용을 통제하는 것을 명분으로 내세우고 있다. 그러나 실제 AI 기술 을 개발하고 있는 기술 업계의 반발과 우려도 만만찮다.

이들은 날로 강화되는 규제와 엄격한 조사, 규칙 위반에 대한 처벌이 강화되면서 정작 “기술혁신이 제한될 수 있다”는 우려를 표명하고 있다.

미국의 한 사이버 보안 회사 임원인 케빈 보첵은 “EU의회가 실리콘 밸리의 AI 혁신을 정면으로 겨냥하고 있다”고 주장하며 “잠재적으로 미국 기업과 투자자들에게 큰 영향을 미칠 수 있다”고 ‘테크리퍼블릭’에 불만을 털어놓았다.

그는 “EU(의 AI법)는 매주 제품을 출시하거나, 매일 모델을 업데이트하고 있는 AI제품 기술의 생태계를 크게 제한할 것”이라고 했다.

“투명성이나, 인증, 안전에 대한 EU의 요구 사항은 현재 소프트웨어 및 클라우드 공급자의 혁신 방식과는 배치되는 것입니다. 유럽의 스타트업과 오픈 소스가 현재 우리가 예상할 수 있는 것보다 AI 생태계에서 더 큰 역할을 할 수 있는 길을 열어준 것이나 다름없죠”

유럽 이외 지역 기업들도 영향 받을 듯

새로운 EU의 ‘AI법’은 또한 유럽에서 운영되지만, 세계의 다른 지역에 본사가 있는 기업들도 앞으로 영향을 받을 수 밖에 없다.

소프트웨어 개발 회사 ‘인포마티카’의 라틴 아메리카 담당 임원은 “유럽의 ‘AI 법’에 따라 미국 등 EU 역외의 기업들도 규정을 준수하기 위해 AI 모델을 구축하는 과정에 데이터의 출처를 투명하게 공개해야 하는 등의 상황에 처할 수 있다”고 밝혔다.

그는 “데이터가 국경을 넘는 (다국적)기업이나 기관일 경우, 국경 너머의 다른 법률을 충족하기 위해 데이터가 처리되는 방법과 위치를 완전히 파악할 수 있어야 한다”고 ‘테크리퍼블릭’에 밝혔다.

그에 따르면 미국에 본사를 두고 있지만 유럽에서 운영되는 조직은 감독 당국이 데이터의 품질을 완전히 이해하고, 데이터 공급망을 통해 데이터를 완벽하게 추적할 수 있도록 해야 한다. 즉, 데이터의 정확성, 명확성, 계통 및 거버넌스에 대한 필요성이 증대될 것임을 의미하는 것이기도 하다.

‘규제샌드박스’ 등 완화 반면, AI에 대한 시민 권리 대폭 강화

‘AI법’은 다만 오픈소스 라이선스에 따라 제공되는 연구 활동이나, AI 구성요소에 대해선 규제를 완화하거나 면제하는 조항을 담고 있다.

즉 기업이 AI를 효과적으로 활용하면서 시민의 권리를 보호할 수 있도록 하기 위한 것이다. 공공기관도 새로운 AI 시스템을 구축하기 전에 이를 테스트할 수 있도록 규제 샌드박스를 구축할 예정이다.

또한 ‘AI법’에 따라 시민들은 AI 시스템에 대한 불만을 수시로 제기할 수 있으며, 고위험 AI 시스템에 기반한 결정에 대해 설명을 들을 권리를 한층 폭넓게 확보할 수 있다. 또한 AI 감독 당국은 ‘AI법’에 따른 제반 규정과 규칙이 제대로 시행되는지 모니터링할 책임을 지게된다.

“현실을 따라잡는게 쉽지않을 것” 예상도

그럼에도 불구하고 법과 제도가 현실을 따라잡는게 쉽지는 않을 것이란 지적도 나오고 있다. 국제적으로 알려진 ‘디지털 전환 컨설턴트’이자, 책 ‘디지털 비즈니스 전환의 인간적 측면’의 저자인 카말라스 라르디는 “이번에 통과된 ‘AI법’ 초안이 지닌 한계가 신속하게 해결되지 않는 한 규제 당국이 ‘(AI기술의 현실을) 따라잡기 게임을 계속할 뿐’”이라고 꼬집었다.

그는 NYT에 “이 법은 역동적이고 빠르게 변화하는 생성 AI 환경에 대한 전통적인 규제나, 규정 준수이 틀에서 벗어나지 못하고 있다”고 지적했다.

그는 “이 법은 저작권을 둘러싼 주제를 충분히 다루지 못하고 있으며, 심지어 저작권 경계로 간주되는 것을 두고 진행 중인 논쟁이나, 그에 대한 정의 등에 대한 명확한 입장을 갖지 못하고 있다”고 한계를 짚었다.

그런 이유로 그는 심지어 “현재 AI 기반 솔루션을 사용하거나 가까운 미래에 그런 계획을 갖고 있는 기업들이 급속히 늘어날 것을 고려할 때 ‘AI 법’의 시행은 자칫 ‘악몽’이 될 것”이라고 경고하기까지 했다. 특히 “(AI) 응용 프로그램과, 그 적합성을 평가, 검토하는 것은 무척 힘든 일”이라고 덧붙였다.

그 때문에 많은 기업들은 새로운 ‘AI법’에 따라 설정된 새로운 ‘개인 정보 보호 표준’을 충족하기 위해 데이터 수집과 관리상의 관행을 크게 변경할 수 밖에 없게 된다.

금년 연말 ‘최종안’ 통과 목표…‘수정․보완’ 목소리 높아

EU는 이번에 초안을 통과시킨 ‘AI 법’에 대해 2023년 말까지 최종안을 완성할 것을 목표로 삼고 있다. 그러나 통과가 된다고 하더라도, 이 새로운 법안은 적어도 실질적인 효력을 발휘하려면 적어도 3년 이상 걸릴 것이란 예상이다. 그 동안 보완하고, 수정, 해결되어야 할 복잡한 문제가 많다는 지적이다.

그럼에도 불구하고, 다수의 전문가들은 일단 유럽의 이같은 획기적인 ‘AI 법안’의 도입을 환영하는 분위기다.

데이터 기반의 AI 시스템을 규제하기로 한 EU의 결정에 대해 이들 다수는 일단 “현명한 입법 조치”로 반기고 있다. 나아가선 “경제 성장을 촉진할 수 있는 기술의 잠재력을 보호할 뿐만 아니라 기업의 본질도 보호할 것”이라는 평가도 많다.

특히 이 법안을 계기로 “데이터 정확도가 ‘칼날’처럼 높아질 것”이란 얘기다. 그러면 “AI모델을 왜곡하는 잘못된 데이터는 AI 제품의 브랜드에 부정적인 영향을 미치는 반면에 정확하고 신뢰할 수 있는 시기적절한 데이터는 기업 경쟁력을 높이고, 성장을 촉진할 것”이란 기대가 많다.