전체메뉴

[애플경제 김향자 기자]지난 3월에 이어 미국의 AI 전문가와 유명인사들이 다시 “핵무기나 팬데믹보다 AI로 인해 인류가 멸종할 수 있다”며 두 번째 서한 형식의 경고 성명을 작성, 공개했다. 또 오픈AI 샘 앨트먼 등 AI 개발 당사자들부터가 이같은 위험을 적극 경고하고 나서면서, AI규제를 위한 새로운 국면이 펼쳐지고 있다.

“AI개발을 6개월 간 늦춰달라”고 요구한 지난 번 서명이 미국의 시민단체인 미래생명연구소(the Future of Life Institute)를 중심으로 이뤄졌다면, 이번에도 역시 AI안전센터(The Center for AI Safety. CAS)라는 단체가 이를 주도하는 모습이다.

이번 성명 역시 ‘WSJ’, ‘테크리퍼블릭’, ‘IT프로’ 등 주요 언론들에 의해 널리 공표되었다.

눈길을 끄는 것은 이번 서명에도 빌 게이츠, AI 개척자 제프리 힌튼, 구글 딥마인드 최고경영자 데미스 하사비스 등 AI개발과 IT업체 유명인사들이 대거 서명에 참여한 사실이다. 이들은 AI의 위험성에 대해 경고하고, 진행 중인 EU의 AI 규제법이 속도를 낼 것도 주문하고 있다.

EU, 미국 규제법 제정 ‘압박’ 의미도

이는 유럽에 이어 미국에서도 AI규제를 한층 가속화해야 한다는 압박이기도 하다. 이런 공감대는 심지어 AI개발 당사자들 간에도 번지고 있다. 최근엔 샘 앨트먼 스스로 “인공지능이 인류 멸종이라는 위험을 가져올 수 있다”고 우려하는 모습을 보이기도 했다. 물론 이를 두고, ‘테크리퍼블릭’ 등은 “앨트만과 오픈AI가 현재 진행 중인 EU의 AI규제법의 추이를 예의주시하는 가운데, 나온 것”이라며 그 저의를 의심하는 시각도 있다.

그러나 단순한 ‘립서비스’만은 아닐 것이란 해석도 설득력을 얻고 있다. 그도 이번 성명서에 이름을 올리는 등 실리콘밸리를 비롯, AI 개발 당사자들조차 그 위험성을 각성하고 있는 분위기다.

이번 공개서한에도 많은 AI 관련 전문가들이 아직은 불투명하지만, 분명 닥쳐올 수도 있는 AI의 위험성과 관련, 경고장에 서명했다. 22단어로 된 짤막한 이 성명서는 AI를 “범사회적 규모의 위험” 요인으로 지칭하고 있다.

CAS가 주도한 이번 성명은 지난 3월의 성명서보다 한층 직설적인 표현을 구사하고 있다. 즉 “AI의 인류 멸종 위험을 완화하는 노력은 어떤 전염병이나 핵 전쟁과 같은 다른 ‘범사회적 규모의 위험’에 앞서, 세계적인 최우선 과제가 되어야 한다”고 주장했다

CAS는 그러면서 “이번 성명은 AI 위험성에 대한 ‘논의의 장을 열고’, 광범위한 사회적 공감대를 확산하기 위한”이라고 취지를 설명했다. 그런 취지에 공감한 나머지 빌 게이츠를 비롯, AI 개발의 선구자격인 제프리 힌튼, 구글 딥마인드 CES 데미스 하사비스, 그리고 샘 앨트먼 등이 서명에 동참했다.

이 성명은 특히 EU와 워싱턴이 AI규제에 좀더 확실하고 적극적인 제도를 마련할 것을 압박하는 의미도 있다.

샘 앨트먼, “EU규제법 탄생하면 철저히 준수” 다짐

그런 가운데 이번 경고 성명의 서명자 중 한 명인 오픈AI의 CEO 샘 알트먼이 AI규제를 위한 제도를 마련하기 위한 EU와 미국 정부 연합 무역기술위원회에 참석, 눈길을 끌었다. 블룸버그 통신에 따르면, 앨트먼은 위원회에 참석, “EU의 과도한 규제를 경계하지만, 법과 규정이 만들어지면, 엄격히 준수할 계획”이라고 다짐했다.

이미 EU는 AI법 제정을 위한 구체적 논의가 성과를 거두고 있다. 또 미국 무역기술위원회 등과 같은 정부 부처나 기관들도 앞으로 향후 각종 정책에 ‘AI 위험성’을 고려, 반영할 계획이다.

EU이사회는 “(AI규제법은) 일반적인 인권과 공유된 민주주의 가치에 대한 AI의 도전을 제한할 것”이라면서 특히 “출입국 절차나 국경 순찰 과정에서 예방 치안이나, 감정 인식을 위해 AI를 무분별하게 사용하지 못하게 할 계획”이라고 밝혔다. 이런 인식을 바탕으로 EU는 ‘글로벌 AI 위험 관리 규칙’을 형성할 것으로 보인다.