전체메뉴

[애플경제 이윤순 기자] 미국 캘리포니아주가 마침내 AI 안전법(SB53)을 채택했다. 개빈 뉴섬 주지사가 앞서 주 의회를 통과한 동법을 승인, 공포한 것이다. 이 법률은 AI 안전과 혁신을 취지로 한 ‘규제법’의 일환이다. ‘주 차원의 AI 규제’를 금지하려는 트럼프 연방 정부의 방침과는 배치되는 셈이다.

그럼에도 불구하고, 애초 원안보다 크게 후퇴했다는 비판을 사고 있다. 앤스로픽을 제외한 오픈AI, 메타, 아마존 등 대부분의 빅테크들의 격렬한 로비와 저항으로 강력했던 규제조항 중 다수가 ‘물타기’ 되었다는 지적이다. 물론 미국은 물론, 세계적으로도 그 구체성이나 조문 구성 등에서 향후 각국의 AI안전 관련 법령의 벤치마킹 대상이 될 것이란 전망도 나온다.

그러나 역시 주지사 서명을 앞둔 뉴욕주의 ‘AI안전법’에 비교되며 논란의 표적이 되고 있다. 뉴욕주는 이보다 더욱 강력한 안전장치를 담고 있는 것으로 알려졌다. 그렇게 업계 로비에 의해 대거 규제가 완화된 ‘SB 53’은 일단 “AI 기업은 AI모델에서 발생하는 심각한 위험을 방지하기 위한 계획을 공개하고, 중대한 안전 사고 발생 시 이를 인정하도록” 하는 내용을 명문화하고 있다.

이 법안에는 ▲내부 고발자 보호, ▲국제 표준 준수 요건, ▲안전 사고 보고 메커니즘 등이 포함되어 있다. 또한 안전하고 지속 가능하며 윤리적인 AI 개발을 위해 퍼블릭 클라우드에서 접근 가능한 새로운 컴퓨팅 클러스터를 개발할 컨소시엄을 설립할 예정이다.

실리콘밸리가 있는 캘리포니아는 세계 AI기술의 본고장으로 일컬러지고 있다. 캘리포니아가 동법 제정에 앞장 선 것도 그런 환경 조건이 작용한 결과다. 이같은 AI안전법은 뉴욕주도 곧 제정할 것으로 알려졌다. 이미 이번 ‘SB53’보다 더 강력한 규제를 담은 것으로 알려지기도 했다.

캘리포니아는 실리콘밸리 등 이러한 기술을 개발하는 많은 기업의 본거지이기 때문에 법적 규제의 영향을 직접 받을 수 밖에 없다.  대체로 테크 기업들이 동법을 적극 반대하고 나선데 비해, 앤스로픽은 이 법안을 공개적으로 지지한데 이어 연방법 제정도 요구했다.

작년 강력한 규제 담았던 법안, 주지사 거부권 행사

본래 강력한 규제 조항들이 많았던 작년에는 캘리포니아 주지사 개빈 뉴섬이 거부권을 행사한 바 있다. 그 후 ‘대형 모델 안전 테스트’와 AI 시스템에 ‘킬 스위치’ 포함 의무화 조항 등 실리콘밸리의 거센 로비와 저항이 일었던 내용은 제외되거나 완화되었다. 그로부터 1년 만에 뉴섬 지사가 새로운 법안에 서명한 것이다. 이번 개정 법조문은 작년에 개빈 뉴섬 지사가 거부권을 행사한 법안을 작성했던 민주당 상원의원 스콧 위너가 작성했다.

새 법률 골자를 보면, 우선 ‘투명성’을 높이기 위해 대형 AI 개발업체들이 국가 및 국제 표준을 어떻게 반영하는지 설명하는 프레임워크를 공개하도록 요구하며, 사실상 자체 안전 계획을 공유하도록 하는 조항이 우선 눈길을 끈다.

이 법은 또한 기업과 대중이 캘리포니아 비상 서비스국(Office of Emergency Services)에 중대한 안전 사고를 신고할 수 있는 새로운 메커니즘을 마련하도록 했다. 또한 프론티어 모델의 중대한 건강 및 안전 위험을 폭로하는 내부 고발자를 보호하며, 이를 준수하지 않을 경우 민사상 처벌을 받게 한다.

그러나 이 법은 신체적 피해가 발생한 경우에만 신고할 수 있게 했다. 이에 현지 언론들은 “모든 사고를 신고하도록 규정했던 작년 법안보다 이 규정이 완화됨으로써 사실상 무장 해제된 것”이라고 꼬집었다.

동법은 또 사고 발생 전에도 심각한 피해를 초래할 수 있는 위험을 사전에 보고하도록 요구하고 있다. 이에 따라 캘리포니아주는 50명 이상을 다치게 하거나, 사망을 유발하거나 10억 달러의 피해를 입힌 기업에는 벌금을 부과하도록 했다. 이를 두고 시민사회 일각에선 "있으나마나 한 규제"라고 비판하기도 한다.

그마나 작년에 주 지사가 거부했던 법률은 기업이 첫 번째 위반할 때 부과하는 벌금을 1천만 달러를 규정했으나, 이번엔 100만 달러로 대폭 삭감했다. 물론 반복적으로 위반할 때마다 벌금은 더욱 커진다. 이와 달리 뉴욕주는 반복적으로 위반할 경우 최대 3천만 달러의 벌금을 부과할 계획이다.

새로 발효된 이 법률은 그럼에도 “캘리포니아주가 안전한 AI 개발을 지원할 것”을 선언했다. 주지사실 성명에 따르면, 캘리포니아주는 안전하고 윤리적이며 공평하고 지속 가능한 AI의 ‘개발 및 배포를 촉진’하도록 했다. 이를 위한 공공 컴퓨팅 클러스터를 구축하되, 이에 적합한 프레임워크를 개발하기 위해 주 정부 운영 기관(GROPA) 내에 ‘캘컴퓨트(CalCompute)’라는 컨소시엄을 설립토록 했다.

한편 캘리포니아 기술부는 이 법률로 인해 안전하면서도 기술 혁신이 이뤄질 수 있도록 이해관계자 피드백이나, 국제 표준 변경 또는 기술 개발에 따라 매년 법 개정을 권고할 수 있다.

업계 요구 십분 반영 불구, 트럼프 행정부 AI 정책과 배치

본래의 규제 조항을 크게 완화하고, 업계의 요구사항을 십분 수용했음에도 불구하고, 이번 법률 공포로 인해 연방정부와의 갈등은 심화될 것으로 보인다. 민주당 출신의 뉴섬 주지사는 차기 대권 후보로 거론되는 인물이다. 그가 서명한 ‘SB 53’은 그렇잖아도 ‘기술 자유화’를 지지해온 트럼프 대통령 간의 갈등이 더 깊어지게 하는 계기가 될 것으로 보인다.

앞서 백악관은 AI와 관련 없는 법안에 “각 주 차원의 AI 관련 법률을 10년간 금지”하는 조항을 강제로 포함시키려 했다. 그러나 지난 7월 상원 수정안에 의해 이는 삭제되면서 그런 시도가 좌절되었다. 앞서 바이든 행정부는 ‘안전하고 보안이 강화된 AI 개발에 대한 행정명령’을 내린 바 있다. 그러나 트럼프 대통령은 지난 1월 ‘AI 분야에서 미국의 리더십을 저해하는 장벽을 제거하는’ 행정명령을 통해 이를 무력화시켰다. 또 7월에는 AI 규제를 대폭 완화하는 것을 목표로 하는 ‘미국 AI 행동 계획’을 발표하기도 했다.

이번 캘리포니아 ‘AI 안전법률’은 이같은 트럼프 행정부의 시도와는 정면으로 배치되는 것이다. 개섬 주지사 역시 법률 공포와 함께 “연방 정부가 포괄적이고 합리적인 AI 정책을 제정하지 못하고 있는 상황에서 이 법안은 특히 중요하다. ‘SB 53’은 이러한 공백을 메우고 국가가 따라야 할 모범 사례를 제시한 것”이라며 이를 뒷받침했다.

그러나 뉴섬 지사의 그런 성명이 곧 등장할 뉴욕주 ‘AI안전법’의 초안 윤곽이 어느 정도 알려지면서 무색해지고 있다. 특히 샘 앨트먼과 제프 베조스, 마크 저커버그 등 최근 親트럼프 성향으로 돌아선 CEO들이 그의 권세를 빌려 주 의회에 압박성 로비를 가함으로써 법적 강제력이 크게 약화된 결과가 되었다.

<(2-②)>에 계속