전 오픈AI 최고의 브레인, ‘AI안전’문제로 앨트먼과 격한 갈등
퇴사 한 달만에 ‘안전한 초지능’ 표방 ‘SSI’사 설립
회사 이름에 ‘Safe’ 명기, 언론들 “앨트먼의 새 ‘강적’ 등장” 주목
[애플경제 전윤미 기자] ‘안전한 AI’를 요구하면서 샘 앨트먼에 반격을 시도했던 오픈AI의 ‘최고 브레인’이라고 할 수 있는 일리야 서츠케버가 새로 AI기업을 창립했다. 서츠케버는 샘 앨트먼, 일론 머스크 등과 함께 오픈AI의 공동 창립자 중 한 명이었다. 그러나 앨트먼이 ‘AI의 책임성과 안전’을 외면한다며 그의 경영 노선에 반기를 든 끝에 퇴사했다.
거의 모든 외신들, 비중있게 보도
그 후 불과 불과 한 달 만에 ‘Safe Superintelligence Inc.](SSI)라는 새로운 회사를 설립한 것이다. 회사 이름 앞에 ’안전‘(Safe)이란 단어를 명기한 것도 그 나름의 신념과 경영철학을 보여준다. 이날 서츠케버의 SSI 창업 소식은 거의 모든 언론이 주요 기사로 다룰 만큼 관심을 끌었다. 이는 단순히 오픈AI 출신의 과학자가 창업을 한 수준을 넘어 앨트먼의 AI 개발 노선에 정면으로 도전하는 새로운 ‘적수’의 출현일 수도 있기 때문이다.
창립 이래 줄곧 오픈AI의 수석 과학자였던 서츠케버는 전 ‘Y Combinator’ 출신의 다니엘 그로스, 전 오픈AI 엔지니어 다니엘 레비와 함께 SSI를 설립한 것으로 전해졌다.
앞서 서츠케버는 오픈AI에서부터 ‘안전한 AI’를 위한 나름의 노력을 기울엿다. 퇴사 직전까지 그는 오픈AI의 ‘슈퍼얼라인먼트(Superalignment)’ 팀을 공동으로 이끌었던 얀 라이크와 함께 ‘AI 안전’을 위해 분투했다. 특히 라이크와 함께 곧 등장할 ‘초지능’ AI 시스템의 안전을 위한 노력의 선두에 섰다.
그러나 서츠케버와 라이크는 ‘AI 안전’에 접근하는 방법에 대한 오픈AI의 (앨트먼의) 리더십과 극적인 갈등을 겪은 후 지난 5월 전격적으로 회사를 떠났다. 서츠케버와 함께 회사를 떠난 라이크는 오픈AI의 라이벌격인 앤트로픽으로 옮겨 역시 AI개발을 진두지휘하고 있다.
‘AI 안전’ 주창한 진영의 대표적 인물
서츠케버는 샘 앨트먼과는 달리 오랫동안 ‘AI 안전’의 위험성을 강조하며 그에 대한 대응책과 개선을 강조해온 진영의 대표적인 인물로 꼽혀왔다. 지난해부터 서츠케버와 라이크는 블로그 게시물을 통해 “인간보다 뛰어난 지능을 갖춘 AI가 10년 내에 도착할 수 있다”고 경고하기도 했다. 그러면서 “그런 AI는 자비로운 것은 아니므로, 제어하고 제한하는 방법에 대한 연구가 반드시 필요하다”고 촉구하기도 했다.
이번에 창업한 회사 이름처럼 그는 ‘안전한 초지능’(SSI) 구축을 강조하고 있다. “이는 우리 시대의 가장 중요한 기술적 문제”라는게 그의 신조다. 19일 X를 통해 날린 트윗에서도 그는 “우리는 ‘안전한 초지능’이라는 단 하나의 목표, 단 하나의 제품으로 세계 최초의 SSI 연구소를 시작했다.”면서 “상호 역시 ‘안전한 초지능’(Safe Superintelligence)이라고 한다”고 공표했다.
그는 또 “그 어느 때보다 대의에 헌신하고 있다”면서 다시 20일 새로운 회사 설립을 알리는 트윗을 통해 자신의 신념을 재천명했다. “SSI는 우리의 유일한 목표로서 우리의 사명이자 이름이며 전체 제품 로드맵입니다. 우리 팀, 투자자 및 비즈니스 모델은 모두 SSI 달성을 위해 협력하고 있습니다. 우리는 혁신적인 엔지니어링과 과학적 혁신을 통해 해결해야 할 기술적 문제로서 안전과 기능을 동시에 접근합니다.”
그러면서 그는 “우리는 안전을 항상 최우선으로 유지하면서 가능한 한 빨리 기능을 발전시킬 계획”이라며 “이런 방식이면 ‘평화롭게’ (AI기능을) 확장할 수 있다”고 자부했다.
“우리의 가장 중요한 초점은 관리상 오버헤드나 제품 주기로 인해 주의가 산만해지지 않음을 의미합니다. 또한 우리의 비즈니스 모델은 안전, 보안,발전이 모두 단기적인 상업적 압력으로부터 보호된다는 것을 의미하기도 합니다.”
‘안전한 초지능 개발 통한 영리 추구’ 표방
이처럼 자신의 각오를 밝힌 서츠케버는 각종 언론과의 인터뷰에선 창업한 회사에 대한 자세한 소개를 하면서도, 현 상황이나 가치 평가에 대해서는 일단 언급을 피했다.
더욱 눈길을 끄는 것은 SSI는 처음부터 영리 조직을 목표로 운영될 계획이란 점이다. 이는 애초 지난 2015년에 ‘비영리 조직’으로 출범한 후, 컴퓨팅 성능에 필요한 막대한 금액이 필요하게 되면서 자체 구조를 (영리 위주를) 재구성한 OpenAI와 다른 점이다.
이 소식을 접한 업계 일각에선 SSI 역시 AI 개발이 지속될수록, 곧 ‘자본’에 빠져들게 될 수 밖에 없을 것이란 관측도 있다. 그럼에도 불구하고 서츠케버는 “우리가 직면한 모든 문제 중에서 자본 조달은 포함되지 않을 것”이라고 잘라 말했다.
SSI는 현재 팔로알토와 텔아비브에 지사를 두고 있으며 현재 그곳에서 기술 인재를 모집하고 있다.