전체메뉴

[애플경제 김홍기 기자] EU의 ‘AI법’에 이어 미국 등 주요국들도 인공지능 관련법을 추진하고 있다. 그런 가운데 미국 연방정부에 앞서, 캘리포니아주 의회가 ‘AI기본법’격인 ‘SB-1047’ 법안 초안을 발표, 찬반 논쟁이 치열하게 벌어지고 있다. 한국보다 약간 적은 인구 4천만명의 캘리포니아주는 ‘실리콘 밸리’ 등 세계 AI기술의 중심이기도 하다. 그런 캘리포니아의 움직임은 ‘인공지능기본법’ 제정을 앞둔 우리로서도 관심있게 지켜봐야 할 사안이란 평가다.

국내에선 ‘인공지능기본법’ 제정을 앞두고, 규제와 진흥 양자를 둘러싸고 논쟁이 이어지고 있다. AI업계와 보수적인 학계 일부, 그리고 정부 일각에서는 ‘진흥’에 무게를 두고 있다. 일단 ‘진흥’ 중심의 ‘기본법’을 출범시키고, 규제는 점진적으로 추가한다는 논리다. 그러나 시민사회 일각에선 적절한 규제와 진흥이 병행되어야 한다는 주장이어서, 갈수록 논쟁이 치열해질 전망이다. 현재는 ‘진흥’에 방점을 둔 목소리가 입법 움직임을 주도하고 있다.

‘진흥’ 강조 국내 ‘인공지능기본법’과는 “대조적”

그러나 캘리포니아의 ‘SB-1047’은 일단 ‘규제와 관리’에 좀더 무게를 두면서 ‘기술발전’도 강조하고 있는 모양새다. “‘심각한 해악’을 입힐 수 있는 생성 AI를 개발하는 기업에 대한 고발자 보호 및 감독을 제공한다”는 법안 서문의 취지도 이를 보여주고 있다. 캘리포니아 주의회 예산 위원회가 발의한 ‘SB-1047’의 공식 명칭은 ‘프런티어 인공지능 모델을 위한 안전하고 보안이 유지되는 혁신법’이다. 법안의 명칭부터가 강력한 관리와 규제를 시사하는 듯하다.

해당 법안은 생성 AI에 대한 연방법과 각주 법에 일종의 가이드라인을 제시할 수 있다는 점에서 미 전역에 걸쳐 논쟁이 이어지고 있다. 종전 EU의 ‘AI법’ 제정에 쏠렸던 만큼이나 국제적인 관심사도 되고 있다. “모든 미국의 AI법규에 대한 선례를 만들 가능성이 있어, 전국적으로 면밀히 모니터링되고 있다”는게 현지 언론의 시각이다.

그런 ‘SB-1047’은 특히 AI 개발자를 위한 몇 가지 중요한 규칙을 핵심 내용으로 제시하고 있다. 우선은 ▲적용되는 AI 모델에 대한 안전 및 보안 프로토콜을 만들 것을 강조하고, ▲해악을 끼칠 우려가 있는 모델을 완전히 종료할 수 있도록 하고, ▲특히 이 법에서 정의한 ‘심각한 해악’을 입힐 수 있는 모델의 배포를 방지하도록 했다. 이를 위해 ▲기업이나 조직은 별도의 감사기구를 설치할 것도 의무화했다.

AI 개발자 대상의 몇 가지 중요한 규칙이 핵심

법안은 또 핵전쟁이나 생물학 무기와 같이 생성 AI 모델이 인류에게 대규모 피해를 입히거나, 사이버 보안 사건으로 5억 달러 이상의 손실을 입히는 것을 방지하는 ‘프레임워크’를 규정하고 있다. 또한 학습과 훈련과정에서 10의 26승, 또는 부동 소수점 연산보다 큰 컴퓨팅 성능을 사용하는 모델로서, 비용이 1억 달러를 초과하는 경우를 규제․관리대상으로 지목했다.

그러나 해당 법안은 최초 발의된 후 AI기업인 앤트로픽의 건의사항을 일부 반영하는 등 업계의 목소리를 담기도 했다. 또 초안의 주요 작성자인 스콧 바이너 캘리포니아주 상원의원(민주당)에 의한 일부 수정도 있었다.

우선 앤트로픽의 건의에 따라 법을 위반한 회사가 주 법무 장관으로부터 법적 조치를 받을 수 있다는 일부 문구가 삭제되었다. 또 기업이 의무적으로 AI의 안전 테스트 결과를 공개하도록 한 조항을 제거했다. 그 대신에 개발자는 이를 대체하기 위해 법적 효력은 없는 진술서를 제출하도록 했다.

또한 AI 회사가 안전에 대해 ‘납득할 만한 보장’을 제공해야 한다는 문구를 ‘납득할만한 관리’란 표현으로 바꿨다. 오픈소스 적용 모델을 미세 조정하는 데 1천만 달러 미만의 비용이 든 경우, 그 개발자는 이 법 적용 대상에서 제외되었다. 또 초안에 들어있던 AI산업 감독 기관인 ‘Frontier Model Division’ 대신, 미래 지향적 안전 지침과 감사를 맡을 ‘Frontier Models 이사회’를 주정부 내에 설치하도록 했다.

빅테크, VC업계, 일부 연방 의원 등 ‘반대’ 목소리

그렇다보니 앤트로픽과는 달리, 구글, 메타 등 다른 빅테크를 중심으로 반대 움직임이 거세다. 수많은 AI 스타트업을 뒷받침하는 VC인 ‘a16z’의 유명인사 안드레센 호로비츠 등의 인사들도 앞장 서서 이 법을 반대하고 나섰다.

업계와 주 의회 일각에선 “혁신을 제한하고 오픈소스 AI 모델을 사용하는 것을 특히 어렵게 만들 것”이라고 반대하고 있다. 허깅 페이스의 공동 창립자이자 CEO인 클레멘트 델랑그도 반대 목소리에 합류하고 있다.

캘리포니아주 출신의 52명의 연방 의회 의원 중 8명도 이 법안이 “대중의 안전에 거의 도움이 되지 않으면서 캘리포니아 경제에 불필요한 위험을 초래할 것”이라는 내용의 서한에 서명했다. 그들은 “미국 표준기술연구소(NIST)와 같은 정부 기관이 여전히 이러한 표준을 만드는 작업을 진행 중이므로, 이보다 앞서 AI에 대한 표준화된 평가를 만드는 것은 너무 이르다”고 주장한다.

그들은 또한 ‘중대한 피해’에 대한 정의도 “오해의 소지가 있을 수 있다”고 비판한다. 즉, ‘핵무기’와 같은 대규모 재해에 초점을 맞춘 것은 부적절하다는 얘기다. 그 보다는 “잘못된 정보와 차별, 합의가 안된 딥페이크, 환경 영향, 일자리 대체와 같은 ‘입증 가능한 AI 위험을’ 대체로 무시함으로써 길을 잃었다”는 주장이다.

낸시 펠로시 전 연방 하원 의장도 이 법안에 반대하고 있다. 그는 개인 성명을 통해 “AI 규제에 대한 연방 차원의 논의가 지속되고 있다”면서 “‘SB 1047’은 ‘선의’을 담고 있음에도 불구하고, 정보가 부족하다”고 지적했다. 펠로시는 “SB 1047은 소비자, 데이터, 지적 재산 등을 보호함으로써 AI를 선도하기를 원하지만, 그런 목표에 오히려 차질을 빚을 내용이 많다”고 했다.

다수 주민 ‘찬성’…‘혁신’과의 균형도 추구

반면에 찬성론자들의 목소리도 크다. 싱크탱크인 ‘미국 인공지능 정책 연구소’ 연구에 따르면 대부분의 캘리포니아 주민은 법안을 지지하는 것으로 나타났다. 전체의 70%가 “미래의 강력한 AI 모델은 위험한 목적으로 사용될 수 있다”며 이 법안에 동의하고 있다.

특히 ‘심층 학습’ 분야의 선구자이자 ‘AI의 대부’로 알려진 제프리 힌튼, 요슈아 벤지오 등도 이 법안을 공개적으로 지지하고 있다. 벤지오는 지난 15일 ‘포춘’지를 통해 “이 법안은 대중을 보호하기 위한 것”이란 취지의 사설을 쓰기도 했다.

‘포레스터’의 수석 분석가인 앨라 발렌티는 “법안이 지난 5월 ‘Change Healthcare’ 사건과 같은 사이버 공격에 주목한 것은 올바른 선택”이라며 “앞으로 생성 AI를 사용하면 사이버 공격을 보다 효과적으로, 훨씬 더 큰 규모로 수행할 수 있으므로 주민을 보호하기 위해서라도 AI를 규제해야 한다”고 강조했다.

그럼에도 이 법안은 ‘규제’와 ‘혁신’의 균형을 맞추는 노력도 병행하고 있다. 초안 작성자인 와이너 상원의원은 공개 성명에서 “혁신과 안전을 모두 보장할 수 있으며, 이들은 결코 상호 배타적이지 않다.”고 했다.

그는 “현재 연방 의회가 AI 규제법을 둘러싸고 ‘교착 상태]에 있으므로, 캘리포니아가 앞장 서서 혁신을 촉진하는 동시에 예상되는 위험에 대처하기 위해 행동해야 한다”고 강조했다. 이 법안은 일단 주 의회 하원과 상원을 통과해야 한다. 만약 8월 말경 통과가 되면, 캐빈 뉴섬 캘리포니아 주지사가 최종 승인 여부를 검토하게 된다.