전체메뉴

[애플경제 전윤미 기자] 21대 국회가 오는 29일로 임기가 만료되면서 그 동안 말이 많았던 ‘AI 기본법’(인공지능산업 육성 및 신뢰 확보에 관한 법률)도 자동 폐기될 예정이다. 이날 국회 과학기술정보방송통신위원회(과방위) 전체회의를 두고 여야 간 안건 협의가 무산되면서 이 자리에서 논의될 예정이던 ‘AI 기본법’도 폐기될 수 밖에 없게 되었다.

이를 두고 한국소프트웨어산업협회를 비롯한 관련 업계나 일부 언론에선 “국제적인 AI 규제와 관련된 법이 보편화되고 있는 가운데, 우리만 지체되고 있다”며 아쉽다는 반응을 보이기도 했다 그러나 시민사회에선 “오히려 잘 되었다”는 의견이 지배적이다. 그간 발의된 7개 가량의 인공지능 규제법을 통합한 ‘AI 기본법’은 ‘진흥’과 ‘개발 지원’ 등 AI업계의 바람을 주로 반영할 뿐, 정작 사용자들을 위한 적절한 규제는 소홀히하고 있다는 지적이 컸기 때문이다.

보수 여당 의원들 발의, ‘기술개발’에 치중

윤두현 의원 등 ‘국민의 힘’ 의원 14인이 발의한 ‘AI 기본법’은 보수 진영 특유의 개발과 진흥에 방점을 찍고 있다. 그래서 ‘무늬만의 규제법’에 불과하다는 비판이 쇄도하곤 했다. 이에 이번에 폐기된 후 다가오는 22대 국회에선 제대로 실효성있는 ‘AI규제법’을 만들어야 한다는 목소리가 높다.

실제로 동법안 제1조 ‘가’는 “인공지능산업을 ‘진흥’하고, 인공지능사회의 신뢰기반 조성에 필요한 기본적인 사항을 규정함으로써 국민의 권익과 존엄성을 보호하고 국민의 삶의 질 향상과 국가경쟁력을 강화하는 데 이바지함을 목적으로 한다”고 규정하고 있다. ‘AI 산업을 진흥하고, 국가경쟁력을 강화하는게 목적이며, 정작 규제는 후순위로 해석될 수 밖에 없다.

제3조(기본원칙)에서도 아예 ①항 ‘국민의 삶 향상을 위한 발전’ ②항 ‘국가 및 지방자치단체가 인공지능사업자의 창의정신을 존중하고, 안전한 인공지능 이용환경을 조성’해야 함을강조했다. 또 ③항 역시 ‘모든 국민이 안정적으로 적응할 수 있도록 시책 강구’한다는 표현만 있다. 애초 ‘윤리적 규제’나 ‘위험한 인공지능으로부터의 보호’ 등은 언급되지 않고 있다.

31조로 된 동법안은 26~28조에서 그나마 ‘신뢰할 만한 AI와 윤리’를 언급할 뿐 나머지는 모두 기술발전과 진흥, 이를 위한 제도개선, 업계의 이익을 위한 지원책, 대한인공지능협회 등 업계 단체 설립, 인공지능 인재 육성 등으로 점철되어 있다. 그래서 ‘인공지능산업 육성 및 신뢰 확보’라는 명칭보단 그냥 ‘인공지능산업 육성법’이라고 해야 옳다는 비판이 끊이지 않았다.

‘규제․감시’는 전체 조항의 10분의 1 미만

실제로 법률 제5조에서부터 18조에 이르기까진 국무총리 산하 ‘인공지능위원회’ 설립과 역할(제5조, 6조), 기본계획 수행을 위한 전문기술 지원, 시책 개발, 관련 사업 기획·시행을 위한국가인공지능센터 설치(안 제10조)를 제안하고 있다. 또 제12조는 “과학기술정보통신부장관이 인공지능기술 개발 활성화를 위해서 (중략) ‘지능정보화 기본법’ 각 호의 사항에 관한 기술의 연구개발 등 사업을 지원할 수 있도록” 했다.

또 제15조는 “국가 및 지방자치단체가 인공지능기술 도입을 촉진, 활용, 확산을 위해 관련 기업에 대한 컨설팅, 중소기업 및 벤처기업의 임직원에 대한 인공지능기술 도입 및 활용 관련 교육, 관련 자금 등의 지원을 할 수 있도록” 했다.

특히 제3장 ‘인공지능 기술 개발 및 산업 육성’의 제1절 ‘인공지능산업 기반 조성’ 중 제11조는 아예 ‘우선허용ㆍ사후규제 원칙’을 명시하고 있어 논란의 중심이 되고 있다. 동 조항 ①항에선 “국가와 지방자치단체는 인공지능기술의 연구ㆍ개발 및 인공지능제품 또는 인공지능서비스의 출시를 허용하는 것을 ‘원칙’으로 한다”고 했다. 그러면서 “다만, 인공지능기술, 인공지능제품 또는 인공지능서비스가 국민의 생명ㆍ안전ㆍ권익에 위해가 되거나 공공의 안전 보장, 질서 유지 및 복리 증진을 현저히 저해하는 경우에는 이를 제한할 수 있다”고 일단 먼저 제품을 출시한 후 뒤늦게 규제 여부를 판단할 것임을 명시했다.

이에 “이미 AI에 의한 피해나 부작용이 발생한 후 ‘사후 약방문’ 식으로 대처하는 내용의 ‘악법’”이란 시민사회의 비판이 거세게 일기도 했다. 이는 동 법안의 대표적인 ‘독소조항’으로 꼽히며 삭제를 요구하는 시민사회의 반발을 사고 있다.

나머지도 모두 업계와 기술 발전만을 추구하는 내용으로 일관하고 있다. 제12조(인공지능기술 개발 및 안전한 이용 지원), 제13조(인공지능기술의 표준화), 제14조(인공지능 학습용데이터 관련 시책의 수립 등), 제15조(기업의 인공지능기술 도입ㆍ활용 지원), 제16조(창업의 활성화), 제17조(인공지능 융합의 촉진), 제18조(제도개선 등), 제19조(전문인력의 확보), 제20조(국제협력 및 해외시장 진출의 지원), 제21조(인공지능집적단지 지정 등), 제22조(대한인공지능협회의 설립)가 모두 AI기술 진흥과 이를 위한 정책적 지원 등으로 일관하고 있다.

23~27조 ‘윤리’ 언급…“선언적 내용 많아”

이에 반해 제23조에선 ‘인공지능 윤리원칙 등’을 규정하고 있긴 하다. 그러나 ①항 1목을 통해 ‘인공지능의 개발ㆍ활용 등은 인간의 생명과 신체적ㆍ정신적 건강에 해가 되지 않도록 안전성과 신뢰성을 기반으로 이루어질 것’을 명시한데 불과하다. 2목에선 ‘사회적ㆍ경제적ㆍ신체적 약자 등 취약계층도 인공지능기술이 적용된 제품이나 서비스에 접근함에 불편이 없도록 할 것’이라고 함으로써 위험성과 부작용 최소화보단, 취약계층의 접근성을 강조할 뿐이다. 3목은 ‘인공지능은 인간에게 도움이 되어야 하며 인류의 삶과 번영을 위하여 공헌할 것’이라고 선언적 규정에 그치고 있다.

제24조 ‘신뢰할 수 있는 인공지능’의 실천방안으론 ①항 1목 ‘신뢰할 수 있는 인공지능 이용환경 조성’과 3목‘ 인공지능의 신뢰성 확보를 위한 안전기술 및 인증기술의 개발 및 확산 지원’, 4목 ‘신뢰할 수 있는 인공지능사회 구현 및 인공지능윤리 실천을 위한 교육ㆍ홍보’를 규정하고 있다. 그러나 이어서 5, 6목에선 ‘인공지능사업자의 신뢰성 관련 자율적인 규약의 제정ㆍ시행 지원’과 ‘인공지능사업자, 이용자 등으로 구성된 인공지능 관련 단체’의 자율적 협력을 명시함으로써 AI안전성에 대한 민간의 각성에 의지하고 있다.

다만 제26조에선 ‘고위험 영역에서 활용되는 인공지능의 확인’을 위한 제도적 방안을 규정하고 있다. 또 제27조에선 ‘고위험 영역에서 활용되는 인공지능의 고지 의무’를 통해 ‘제품 또는 서비스가 고위험 영역에서 활용되는 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전에 고지해야 한다’고 명시했다. 이와 함께 ‘제1항에 따른 고지는 해당 제품 또는 서비스를 제공하는 자의 인터넷 홈페이지에 게시하거나 해당 제품 또는 서비스의 설명서에 포함시키는 등 이용자가 쉽게 알 수 있는 방법으로 제공되어야 한다’고 덧붙였다.

그럼에도 불구하고 동법안은 인공지능의 진흥과 규제를 균형있게 반영한 ‘AI 기본법’으로선 함량 미달이란 비판을 사기에 충분하다는 지적이다. 실제로 전체 31조에 달하는 내용 중 합리적 규제와 AI위험성을 방지하기 위한 제도적 방안에 관한 내용은 10% 미만에 불과한 셈이다.

과기부-업계 비공개 간담회 “시민단체 반대의견 최소한 수렴”

더욱이 최근엔 동법안을 조율하기 위해 업계 내지 민간 전문가들과 간담회를 가진 과학기술정보통신부는 “시민단체 등의 반대 의견을 최소한으로 수렴하여 인공지능 산업진흥 조항은 최대한 유지하고, 처벌 규정은 삭제한다”는 정부 의견을 밝힌 것으로 드러나 파장이 일고 있다. 이는 한 민간단체 회의록을 통해 드러났다. 이에 “그런 인식을 바탕으로 한 ‘윤두현 발의 AI기본법’은 수정․보완이 안 될 바엔 폐기되고, 새로운 법안이 22대 국회에서 논의되어야 한다”는 목소리가 높다.

특히 제11조는 아예 ‘우선허용ㆍ사후규제 원칙’을 통해 “누구든지 인공지능 관련 제품이나 서비스를 출시할 수 있고, 국민의 생명·안전·권익에 위해되는 경우가 아니면 인공지능 기술개발을 제한하면 안 된다”고 되어있어 지탄의 대상이 되고 있다. 국가인권위원회도 이 조항에 대해 “인공지능이 무분별하게 개발·활용될 경우 기본권 침해를 포함한 예상치 못한 위험이 나타날 수 있다”며 삭제해야 한다는 의견을 낼 정도다. 사회 각계의 시민단체들도 동법안은 인공지능의 부작용을 줄일 수 있는 안전장치가 매우 부실하다며 수정․보완 내지 폐기를 주장해왔다.

물론 업계는 이 법안에 전적으로 찬동하는 분위기다. 특히 AI업계의 이익을 사실상 대변하는 IT 관련 전문매체들도 “(과방위 무산으로) 'AI 기본법'은 희생양이 됐다. 이번 과방위의 전체회의 미개최로 일정상 오는 29일까지 국회 본회의를 통과시키기 어렵게 됐다”고 아쉬워하는 분위기다. 그러나 정작 AI개발과 관련된 업계의 이익보단, 국민 다수의 안전한 이용에 방점을 찍는, 진정한 의미의 AI규제와 진흥법이 새로 만들어져야 한다는 지적이다. EU의 강력한 ‘AI법’은 물론, 독일, 프랑스, 이탈리아 3국이 생성 AI 모델에 대해 “행동 강령을 통한 의무적 자율 규제와 함께 검증되지 않은 규범은 배제하기로 하나 ‘AI규제 가이드라인’, 등이 모범 사례다. 미국의 각 주법, 그리고 중국의 AI규제법 등도 마찬가지다. 이는 적절하고 합리적인 규제가 수반될 때 건강한 AI기술도 발전한다는 대원칙에 충실한 것이다.