美캘리포니아주 의회 ‘AI안전법’ 통과

[애플경제 이윤순 기자] 캘리포니아 주 하원이 AI안전을 위한 광범위한 규제를 담은 ‘AI안전법안’(SB 1047)을 통과시켰다.

외신을 종합하면 28일(현지시각) 캘리포니아 주 의회는 ‘프런티어 인공지능 모델’에 대비해 안전하고 보안이 강화된 방안을 규정한 동법을 통과시켰다. 이 법안은 미국에서 최초로 제정된 중요한 AI법으로 기록될 전망이다. 특히 세계 AI기술 등 IT문명의 발상지로 상징되는 실리콘밸리가 위치한 캘리포니아 주가 앞장섰다는 점에서 국제적인 주목을 받고 있다.

이 법안은 실리콘 밸리를 비롯한 업계 안팎에서 논쟁을 부르며, 화제가 되었다. 캘리포니아에서 운영되는 AI 기업들은 정교한 기초 모델을 훈련하기 전에 여러 가지 예방 조치를 시행하도록 의무화한 것이 골자다. 여기에는 모델을 신속하고 완벽하게 종료하고, 모델이 “안전하지 않은 훈련”으로부터 수정, 보호되도록 했다. 또 모델이나 그 파생 모델이 “심각한 해를 끼치거나 가능하게 될” 위험이 있는지를 의무적으로 검증하도록 했다.

일부 비판론자들, 법안 수정에 ‘찬성’ 전환도

이 법안의 주요 발의자인 스콧 위너 캘리포니아 주 상원의원은 ‘SB 1047’이 “대형 AI 개발기업이나 연구자들에게 이미 약속한 대로, 대형 모델이 안고 있는 치명적인 안전 위험에 대해 철저히 검증하도록 요구하는 매우 합리적인 법안”이라고 강조했다. 그는 또 “오픈 소스 옹호자, (법안에 찬성한) 앤트로픽 등 여러 전문가들과 함께 올해 들어 계속 법안을 다듬고 개선하기 위해 노력해왔다”고 밝혔다. 그 결과 “‘SB 1047’은 예측 가능한 AI 위험에 대응할 수 있도록 잘 조정된 적절한 법안”이라고 했다.

앞서 오픈AI와 앤트로픽, 그리고 연방의원인 조 로프그렌, 전 연방하원의장 낸시 펠로시, 캘리포니아 상공회의소 등 ‘SB 1047’ 비판자들은 “이 법안이 AI의 재앙적 피해 가능성에만 지나치게 집중되어 있으며, 소규모 오픈소스 AI 개발자에게 부당한 피해를 입힐 수 있다”고 주장해왔다.

이런 비판을 일부 수용, 동 법안은 기존의 많은 형사 처벌 규정을 민사 처벌로 대체했다. 또 캘리포니아 법무장관에게 부여된 AI규제 권한을 축소했고, 이 법안에 의해 만들어진 ‘프런티어 모델 위원회’에 가입하기 위한 기업들의 요건을 완화했다.

동 법안은 곧 주 상원 역시 통과될 가능성이 크다. 일단 주의회를 통과하면 해당 법안은 개빈 뉴섬 주지사에게 전달, 9월 말까지 공포 여부가 결정된다. 앞서 앤트로픽은 다리오 아모데이 CEO 명의로 뉴섬 주지사에게 보낸 서한에서 법안 찬성 의사를 표했다. 오픈AI 역시 비판으로 일관하다가, 법안 규정이 일부 수정된 후 찬성으로 돌아섰고, 일론 머스크 역시 “나는 시종 AI에 대한 적절한 규제를 옹호해왔다”며 찬성 의사를 보인 바 있다.