“인공지능은 만들어지는게 아니라, 스스로 똑똑해진다”-. 최근 AI를 이렇게 규정하면서 ‘AI 기술경쟁’을 제한해야 한다는 목소리도 일각에서 나오고 있다. 인공지능은 분명 소프트웨어이지만, 다른 기계적 프로그램처럼 사람이 이를 일일이 구성하거나 수작업으로 다듬어지기만 하는 것이 아니라서 나온 주장이다. 마치 유기체처럼 AI는 스스로 알아서 성장한다고 하는 편에 가깝다고 할 수 있다. 지능에 기초한 기능이나 수행 능력은 흡사 사람이 성장해가는 것과도 닮았다.
그렇다보니 ‘AI종말론’을 펴는 목소리가 이젠 낯설지 않다. 심지어 “장차 ‘초지능’은 어떤 기술이나 인간도 통제할 수 없게 된다”는 주장도 있다. 그래서 차제에 빅테크를 중심으로 한 ‘초지능 경쟁’을 당장 중단해야 할 것을 촉구하기도 한다. 단순한 촉구가 아니다. “스스로 지식을 쌓으며 성장하는 AI가 끼칠 해악”을 강조하며, 전지구적 캠페인도 불사할 각오로 나서는 과학자들도 적잖다. 그러나 개발자들 중엔 AI가 작동하는 프로세스를 잘 알고 있음에도, 정작 AI가 그 결과로 새롭게 변형된 결과는 잘 이해하지 못한다는 것이다.
그 때문에 여러 가지 문제를 일으키고 있다. xAI의 개발자 그 누구도, 혹은 그 어떤 개발자들도 그록(Grok)이 스스로를 반유대주의의 상징이라고 할 ‘메카히틀러’(MechaHitler)"라고 부를 것이라고 예상하지 못한 것 같다. 또한 오픈AI의 그 어떤 개발자나 관계자들도 챗GPT가 특정 사용자에게 ‘AI 유발 정신병을 유발할 것이라고 예상하지 못했던 것과 마찬가지다. 이처럼 AI는 스스로 역량을 쌓고, 데이터를 새롭게 학습하며 시간이 흐를수록 저절로 더욱 똑똑해질 수 밖에 없다는 분석이다.
이는 장차 인간을 뛰어넘는다는 ‘초지능’의 경지를 미리 예단하게 한다. 많은 뜻있는 사람들이나 식자층 간에는 “장차 인류의 존재 가치는 물론, 안전한 생존 자체를 위협할 만큼 심각해질 수도 있다”는 우려도 쏟아낸다. 이런 사람들은 특히 이런 초지능 AI를 개발하느라 치열한 경쟁을 벌이고 있는 대부분의 AI 기업들을 질타하고 있다. 수많은 AI기업들이 언젠가는 모든 ‘정신적 작업’이나, 사유능력에서도 모든 인간을 능가하는 ‘초지능’ AI를 개발하기 위해 경쟁하고 있기 때문이다. 이들은 단순히 챗봇의 성능을 향상시키거나 개발하는 차원을 뛰어넘는다. “사람을 능가하는 초인적인 AI”를 목표로 삼고 있다는게 문제다.
현재 우리가 많이 이용하는 AI챗봇은 그런 점에서 ‘초지능’으로 가는 발판이라고 할 수 있다. 그런 경지에 도달하면 과연 어떤 기술이나, 혹은 어떤 사람들이 그러한 초지능을 통제하게 될지가 우려의 대상이다. 그러나 결국엔 그 어떤 기술이나 어떤 시스템으로도 이를 통제할 수 없는 지경에 이른다. AI는 단계적으로 구축되는 것이 아니라, 스스로 ‘성장’하는 것이다. ‘성장’하고 성숙해진 AI는 누구도 말릴 수 없는 힘을 가진다. 아무도 요구한 적 없고, 아무도 원하지 않았던 추진력과 실행력을 갖게 되는 것이다.
‘인간 친화적’ 인공지능, 혹은 인문학적 시각의 A를 연구해온 글로벌 ‘비영리 기계 지능 연구소’(MIRI)는 오래 전부터 이런 ‘초지능’AI의 상황을 연구해왔다. 이 단체가 처음 연구를 시작한 2001년만 해도 이런 문제가 널리 알려지거나 연구 지원을 받기 훨씬 이전이었다. 그러나 그 무렵부터 이들은 ‘非인간 지능’ 혹은 초인적 AI가 어떻게 생각하고, 행동하고, 목표를 달성할지 연구해 왔다. 그로부터 20여 년이 지난 현재는 걱정하던 상황이 현실로 나타날 가능성이 커졌다. 반면에 ‘인간 친화적인 기계 지능’으로의 진전은 훨씬 그 가능성이 줄어들었다.
현재 기술로는 스마트 AI가 어떤 결과를 초래할지 알 수 없다. 다만 누구도, 그 어떤 시스템이나 기술도 그 예측불가능한 위력에 대해 충분한 통제력을 갖지 못할 상황도 배제할 수 없다. 스스로 명석해지고 성숙해가는 AI의 존재를 자칫 ‘상전’으로 모실 수도 있다. “인류는 국제 조약을 통해 모든 기업을 동시에 통제함으로써 초지능 경쟁을 중단시켜야 한다”는 주장이 설득력을 얻고 있는 것도 그 때문이다.