일반 인공 지능(AGI)은 인간지능에 필적한다고들 한다. 오히려 인간지능을 뛰어넘을 수도 있다는게 일각의 기대다. 과연 AGI가 그런 능력을 갖출 것인가. 이는 그러나 여전히 논란꺼리다. 일단 인간지능에 필적할 만한 지능을 갖추기 위해선 ‘상식과 직관’ 능력이 필수다. 인간은 그러나 진화를 통해 가능한 모든 도구와 데이터를 사용, 문제를 해결하는 데 능숙하다. 이에 비해 기계는 현실 세계에서 가능한 한 충실하게 추출한 디지털 데이터를 통해 세상에 대해 학습할 뿐이다. 그렇다면 AI가 결코 '인간'을 따라잡을 수 없는 이유는 대략 4가지 정도다.
첫째는 AI를 비롯해 모든 기계는 스스로 세계를 완전히 탐험하고 활용할 능력이 부족하다는 점이다. API를 통한 디지털 방식이든, 로봇을 통한 물리적 방식이든, 오로지 인간이 주입한 방식으로만 외부 시스템과 상호 작용할 수 있다. 그러나 인간처럼 정교하게 물리적 세계와 일체가 되고, 상호작용하려면 그것만으론 안 된다. 심지어는 액세스 권한이 부여되지 않은 컴퓨터 시스템에 스스로 액세스할 수 있어야 한다. 하긴 지금의 에이전트 AI는 그런 발상에 기초하고 있다. 스스로 컴퓨터 비전을 통해 웹사이트를 이해하고 외부 도구에 액세스한다. 그러나 AGI가 현실이 되기 위해선, 한참 더 진화해야 한다. 물리적, 혹은 디지털 시스템을 독립적으로 탐색하고, 이해하며 인터페이스할 수 있어야 한다.
기계는 인간처럼 ‘한 가지를 배워 열 가지를 안다’는게 불가능하다. 그게 두번째 이유다. 말이 ‘범용’일 뿐, AI는 특정한 좁은 범위의 작업을 해낼 수 밖에 없다. 의료용 챗봇은 스캔을 분석하고, 환자와 상담하고, 증상을 평가하고, 치료를 처방한다. 그런데 만약 “고장난 냉장고를 진단하고 고쳐보라”고 하면 엄두가 나지 않는다. 두 작업 모두 패턴 인식과 논리적 사고에 의존할 뿐이다. 명시적으로 해결하도록 훈련받은 알고리즘을 넘는 방식으로 비선형의 데이터를 무턱대고 처리할 수는 없다. 반면 인간은 완전히 다른 도메인에서 문제를 해결하고, 추론과 창의적 사고 기술을 적용할 수 있다. 예를 들어, 인간 의사는 사전 지식없이도 진단과 추론을 사용해 결함이 있는 냉장고의 문제를 해결할 수 있다.
세번째로 AI는 인간처럼 스스로가 알 수 없는 미래 세상의 ‘지도’를 만들지 못한다. 이는 우리의 모든 감각, 우리가 배우는 모든 것, 타고난 믿음과 편견, 그리고 우리가 경험하는 모든 것을 상상하고, 융합한 것이다. 그러면 AGI는 어떨까. 네트워크를 통해 이동하는 디지털 데이터를 분석하거나, 센서로 정보를 수집한다. 컴퓨터 비전을 통해 날아다니는 새의 비디오를 보고 새의 크기, 모양, 종, 행동에 대해 많은 것을 배울 수도 있다. 그러나 이 정도론 인간의 지능을 따라잡기엔 어림도 없다. 말하자면 새의 행동을 통해 스스로 나는 방법을 알아내고, 이를 응용해 비행기를 만드는 데 적용하는게 인간이다. 이런 ‘상식과 직관’은 여전히 인간만의 특권이다. 아무리 개발자들이 발버둥을 친다고 해도, ‘국한된 지능’에 머물 뿐이다.
마지막으로 AI가 인간처럼 '만물의 영장' 수준으로 승천할 수 없는 치명적 이유가 있다. 다름 아닌 ‘인간’이다. 아무리 기술적 장애가 극복되었다고 해도, 인간이 이를 수용하고 인정하지 않으면 소용없다. 인간이 자신 아닌 또 다른 ‘만물의 영장’을 허용할까. 기계가 인간에 필적할 만한 이성의 존재로 격상되는 것을 용서할까. 불가능한 일이다. 원천적으로 AGI 너머 그 어떤 ‘테크데우스’(神적인 기술)라도 인간에겐 용납될 수 없다. 생성AI 이후 그에 대한 두려움과 거부감이 이를 잘 설명해주고 있다. ‘AI의 대모’로 불리는 ‘페이페이 리’는 그래서 “AGI가 정확히 뭔지 모르겠다”고 했다. 그 역시 AGI에 의한 테크노피아를 일축한 것이다.