스스로 성숙해지는 AI…“‘초지능’ 경쟁 중단해야”

[애플경제 김홍기 기자] “인공지능은 만들어지는게 아니라, 스스로 성숙해진다”-. 최근 AI를 이렇게 규정하면서 ‘AI 기술경쟁’을 제한해야 한다는 목소리도 일각에서 나오고 있다.

이미 ‘AI종말론’을 펴는 목소리는 낯설지 않다. 그 중 수 십 년 전부터 ‘인간 친화적’ 인공지능, 혹은 인문학적 시각의 A를 연구해온 글로벌 ‘비영리 기계 지능 연구소’(MIRI, Machine Intelligence Research Institute)도 그 대표적인 사례다.

이들은 심지어 “장차 ‘초지능’은 어떤 기술이나 인간도 통제할 수 없게 된다”며 “차제에 빅테크를 중심으로 한 ‘초지능 경쟁’을 당장 중단해야 할 것”을 촉구하고 나섰다. 이들은 단순한 촉구가 아닌, “스스로 지식을 쌓으며 성장하는 AI의 해악”을 강조하며, 전지구적 캠페인도 불사할 각오다.

“AI, 유기체처럼 알아서 성장”

인공지능은 분명 소프트웨어이지만, 다른 여느 프로그램처럼 사람이 이를 일일이 구성하거나 수작업으로 다듬어지는 것이 아니다. 그 보단 마치 유기체처럼 AI는 스스로 알아서 성장한다고 하는 편에 가깝다고 할 수 있다. 대표적인 기능이나 수행 능력은 흡사 사람이 성장해가는 것과도 닮았다. 그러나 개발자들 중엔 AI가 작동하는 프로세스를 잘 알고 있음에도, 정작 AI가 그 결과로 새롭게 변형된 결과는 잘 이해하지 못한다는 것이다.

그렇다보니 이는 이미 여러 가지 문제를 일으키고 있다. xAI의 그 누구, 혹은 그 어떤 개발자들도 그록(Grok)이 스스로를 반유대주의의 상징이라고 할 ‘메카히틀러’(MechaHitler)"라고 부를 것이라고 예상하지 못한 것 같다.

또한 오픈AI의 그 어떤 개발자나 관계자들도 챗GPT가 특정 사용자에게 ‘AI 유발 정신병을 유발할 것이라고 예상하지 못했던 것과 마찬가지다. 이처럼 AI는 스스로 역량을 쌓고, 데이터를 새롭게 학습하며 시간이 흐를수록 저절로 더욱 똑똑해질 수 밖에 없다는 분석이다.

특히 이는 장차 인간을 뛰어넘는다는 ‘초지능’의 경지를 미리 예단하게 한다. MIRI는 “장차 문제는 더욱 심각해질 전망”이라며 이런 우려를 쏟아냈다. 

이들은 ‘더 어틀랜틱’에 “이미 현재의 대부분 AI 기업들은 언제가는 모든 ‘정신적 작업’ 혹은 사고나 사유능력에서도 모든 인간을 능가하는 ‘초지능’ AI를 개발하기 위해 경쟁하고 있다.”며 “단순히 챗봇의 성능을 향상시키거나 개발하는 차원을 뛰어넘고 있다.”고 우려하고 있다.

“‘성장’한 AI, 아무도 요구않고, 원치않았던 행동” 우려

즉, 챗봇은 ‘초지능’으로 가는 발판이라고 할 수 있다. 그런 경지에 도달하면 과연 어떤 기술 혹은 누가 그러한 초지능을 통제하게 될지가 우려의 대상이다. 그러나 사실상 어떤 기술이나 어떤 시스템으로도 이를 통제할 수 없는 지경에 이른다. 즉 “AI는 (단계적으로) 구축되는 것이 아니라 (스스로) ‘성장’하는 것이며, ‘성장’한 AI는 아무도 요구한 적 없고, 아무도 원하지 않았던 추진력과 행동을 갖게 된다.”는 지적이다.

오래 전부터 이런 ‘초지능’AI의 상황을 연구해온 MIRI는 “처음 연구를 시작한 2001년만 해도 이런 문제가 널리 알려지거나 연구 지원을 받기 훨씬 이전이었다.”고 돌이켰다.

그러나 그 무렵부터 이들은 “非인간 지능이 어떻게 생각하고, 행동하고, 목표를 달성할지 연구해 왔다. 그로부터 20여 년이 지난 현재는 상황이 판이하게 달라졌다. 애당초 기대했던 ‘인간 친화적인 기계 지능’으로의 진전은 기대했던 것보다 훨씬 그 가능성이 줄어들었다.

이에 MIRI는 “현재 상황은 매우 위험해 보이며, 인류는 국제 조약을 통해 모든 기업을 동시에 통제함으로써 초지능 경쟁을 중단시켜야 한다”는 주장까지 펴고 있다. 즉 “현재 기술로는 스마트 AI가 어떻게 될지에 대한 충분한 통제력을 누구도, 그 어떤 시스템이나 기술도 갖지 못하기 때문”이라고 했다.