‘심각한 피해’ 방지 프로토콜, 거액의 비용 등 기업에 큰 부담 고려
앞서 다른 AI법안 서명과 대조적, “더 정밀한 AI기능 분석 미흡” 지적
[애플경제 이윤순 기자] 캘리포니아 주지사 개빈 뉴섬이 AI 개발을 규제하는 주요 법안인 SB 1047에 거부권을 행사했다. SB 1047은 AI 모델을 개발하는 회사가 ‘심각한 피해’를 방지하기 위한 안전 프로토콜을 구현할 책임을 지도록 하는게 골자다. 이런 미연의 방지책을 마련하기 위해선 보통 1억 달러 이상의 비용이 들 것으로 예상된다. 다만 AI 학습과 훈련 중에 부동 소수점 연산 등을 사용하는 모델만 이에 해당된다. 그럼에도 불구하고, 기업 특히 스타트업에게 너무 큰 부담을 안긴다는 이유로 주의회를 통과한 후에도 계속 논란이 되었다.
그러다가 이번 개빈 뉴섬 지사가 거부권을 행사한 것이다. 뉴섬 지사는 앞서 주의회가 통과시킨 다른 AI규제법은 승인한 바 있다. SB 1047은 오픈AI 등 실리콘밸리의 기업들과, 메타의 수석 AI 과학자인 얀 르쿤과 같은 유명 기술자, 연방 의원인 로 카나와 같은 민주당 정치인까지 망라하며, 많은 사람들이 반대에 나섰다.
그럼에도 불구하고 이 법안은 AI 회사인 앤트로픽과 다른 규제 찬성론들의 주도로 개정된 것이다.
18개 AI법안 중 “가장 논쟁적”
캘리포니아 주 의회가 SB 1047을 통과시켰지만 반대자들은 뉴섬이 거부권을 행사할 것이라고 기대해왔다. 사실 뉴섬 지사는 이미 이 법안에 대해 우려를 표명, 거부권 행사를 예상하게 했다.
뉴섬은 거부권 행사 직후 발표한 성명에서 “SB 1047은 선의에서 만들어진 법안이긴 하지만, AI 시스템이 고위험 환경에 배치되는지, 중요한 의사 결정이 포함되는지, 민감한 데이터를 사용하는지 여부를 고려하지 않고 있다.”면서 “이 법안은 그저 대규모 시스템이 배치되는 한 가장 기본적인 기능에도 엄격한 기준을 적용한다. 저는 이것이 기술로 인한 실제 위협으로부터 대중을 보호하는 가장 좋은 접근 방식이라고 생각하지 않는다.”라고 거부권 행사의 이유를 밝혔다.
연방의원이자 오랫동안 하원 의장을 지낸 낸시 펠로시도 이 법안에 대해 “선의를 바탕으로 하고 있지만 정보가 부족하다”고 비판한 바 있다. 그는 거부권 행사가 발표된 후, “뉴섬 지사가 대형 기술 기업이 아닌, 소규모 기업가와 학계가 주도할 수 있도록 우리 모두가 공유하는 기회와 책임을 인정한 것”이라고 치켜세웠다.
법안 주도 의원, “AI 감독 원하는 사람들 좌절” 반발
그러나 이번 발표에 앞서 뉴섬 지사는 지난 30일 동안 ‘AI 기술의 규제 및 배포’에 관한 17개 법안에 서명한 바 있다. 그런 과정에서 AI 전문가들에게 “캘리포니아가 생성AI 배포를 위한 실행 가능한 보호책을 개발하도록 도와달라”고 요청한 것으로 밝혀졌다.
한편 해당 법안을 주도한 주의회의 스콧 비너 상원의원은 이번 뉴섬 지사의 거부권 행사에 대해 “대중의 안전과 복지, 그리고 지구의 미래에 영향을 미치는 중대한 결정을 내리는, 거대 기업에 대한 감독을 믿는 모든 사람에게 좌절을 안겼다”고 성명을 통해 실망감을 표했다. 그럼에도 그는 또한 이 법안을 둘러싼 논쟁이 “국제 무대에서 AI 안전 문제를 극적으로 진전시켰다”고 평가하기도 했다.