이런 ‘AI 악마’들이 나타나면 인류 멸절?

[애플경제 이지향 기자] AI의 위험성과 오류, 환각을 제거하고, 이에 대응하는 것이 현재의 기술산업에서 가장 큰 숙제가 되고 있다. 이에 제대로 대비하지 못할 경우, 자칫 영화 ‘터미네이터’ 등에서 봄직한 악몽이 현실이 될 수도 있다는 우려도 적지 않다.

보안업체 ‘이글루코퍼레이션’은 새삼 그런 ‘인류의 적’을 경계하는 의미에서 영화 속에 등장하는 가상의 위협적인 AI기술인, 이른바 ‘3대 AI빌런’을 소개해 눈길을 끈다. 이는 비록 영화 시나리오이긴 하지만, 실제로 인류를 위협하는 AI기술로 현실화될 수도 있다는 함의가 깔려있다. GPT-4o, 제미니, 클로드3, 메타AI 등 첨단 AI기술들의 위험성이 늘 지적되고 있는 현실을 다시 돌이켜보게 하는 의미도 있다.

‘3대 AI빌런’을 소개한 이글루코퍼레이션의 박지희 연구원은 “AI는 현재 내 삶과 뗄래야 뗄 수 없는 존재가 되었지만, 영화 속 AI는 인간을 지배하거나 파괴하려하는 공포의 대상이었고, 기술에 대한 인간의 불안감을 한껏 증폭시킨 바 있다”며 일단 세 가지를 꼽았다.

박 연구원이 꼽은 ‘AI빌런’은 영화 터미네이터 시리즈의 ‘스카이넷’, 영화 ‘업그레이드’의 ‘스템’, 영화 ‘아틀라스’의 가사도우미 로봇 ‘할런’ 등이다. 내가 기억하는 'AI 빌런 3대장'을 소개한다.

‘스카이넷’, 모든 시스템 장악, 핵전쟁 유발

그에 따르면 영화 <터미네이터 2>에서 인간과 전쟁을 벌이는 기계들을 조종하는 슈퍼컴퓨터가 ‘스카이넷’이다. 영화 속 ‘스카이넷’은 본래 미국 국방부가 개발한 ‘초 지능형 인공지능 네트워크 시스템’이었다. 처음엔 군사적 목적으로 개발되었지만 스스로 ‘자의식’을 갖게 되어 인간을 지배하려는 야망을 품게 된다. 이에 인간들이 그 기능을 정지시키려고 하지만, 스카이넷이 이에 저항하며 치명적 반격을 가해온다는 스토리다.

스카이넷은 인류를 적으로 간주하고 모든 방어 시스템을 장악, 러시아에 핵미사일을 발사한다. 그 때문에 핵전쟁이 벌어지고, 인류의 절반 이상이 몰살당한다. 스카이넷이 만든 첨단병기들로 인해 남은 생존자들마저 위험에 처한다.

현실에선 이미 ‘스카이넷’ 뛰어넘는 컴퓨팅 성능 갖춰

박 연구원은 또 2003년 <터미네이터 3>에 등장한 ‘스카이넷’도 주목한다. 데이터 처리 속도가 초당 약 60테라플롭스(1테라플롭스는 초당 약 1조회 연산 처리)에 달한다. “60테라플롭스는 2003년 당시 지구 최고 슈퍼컴퓨터인 35테라플롭스급 ‘어스 시뮬레이터’보다 월등히 뛰어난 성능”이라고 했다.

그러나 “2017년에 이미 ‘스카이넷’보다 10억 배나 강력한 컴퓨팅 네트워크를 개발, 오로지 비트코인 채굴에만 사용했다”면서 “이 영화가 개봉된 후 20년 뒤에 발매된 아이폰15는 스카이넷의 처리 속도의 절반이 넘는 35 테라플롭스의 인공지능 칩을 탑재했다”고 영화 속 이야기가 현실화된 기술 발전의 현실을 강조했다.

실제로 “AI 반도체 기업 엔비디아가 공개한 새 AI 가속기 ‘GB200′은 초당 1.4엑사플롭스 연산이 가능하다. 터미네이터에서 지구를 멸망시킨 스카이넷보다 약 2만 3,333배 뛰어난 성능”이란 얘기다. 적어도 이 대목에선 영화 속 상상보다 현실의 기술 문명이 훨씬 빠르게 진화하고 있는 셈이다.

‘스템’, 인간으로 진화 후 인류멸절 나서

영화 ‘업그레이드’에 나오는 AI칩 ‘스템’도 ‘AI빌런’으로 꼽혔다. 이는 인간의 능력을 증강시켜주는 AI칩이다. 영화 속에서 ‘스템’을 경추에 이식받은 주인공은 마비된 신경 기능이 더욱 증강되면서 자신과 부인을 습격한 이들에 대한 복수에 나선다.

그러나 사태가 진전될수록 주인공은 스템에 의지하게 되고, 스템은 점점 인간 자신을 지배하게 된다. 그러면서 마치 인간이 스스로 지배받기를 원하는 것처럼, 매번 스템은 인간에게 ‘이런 기능까지 내가 지배해도 되겠나’는 질문을 하곤 한다. 인간으로선 선택의 여지가 없다. 결국 인간의 모든 기능을 지배하게된 스템은 그 스스로 완벽한 ‘인간’이 된다. 기계에서 인간으로의 진화, 즉 업그레이드에 성공한 스템은 본격적으로 인간세상을 파괴하는 행동에 나선다는 줄거리다. 그야말로 “인간의 업그레이드가 아닌 인공지능 스템의 업그레이”였다는 얘기다.

박 연구원은 “영화에서 상세한 설명은 나오지 않았지만 스템의 기술을 예상해 본다면, 인간의 두뇌와 기계를 연결하는 기술인 뇌-컴퓨터 인터페이스(Brain-Computer Interface, BCI)기술을 사용했을 것”으로 유추했다. 즉, 자율적인 학습과 판단, 행동이 가능하기 위해 신경 네트워크 기반 AI 기술, 빠른 계산 능력을 위한 양자 컴퓨팅 기술이 사용되었을 것이란 추측이다.

‘할런’, 뉴럴링크로 동기화, 인간에 테러

영화 ‘아틀라스’에 등장하는 가사도우미 로봇 ‘할런’도 경계 대상이 될 법하다. 스포일을 피하는 수준에서 박 연구원이 소개한 바에 따르면 영화에선 ‘AI빌런’과, 비교적 선한 역할의 AI 등 두 가지가 등장한다.

악역의 AI는 가사도우미 AI 로봇 ‘할런’이다. 주인공 ‘아틀라스’의 어머니가 개발한 할런은 아틀라스와 뉴럴링크를 통한 동기화를 계기로 인간을 지구의 암적 존재라 판단, 반란을 일으킨다. 결국 아틀라스는 자신과 AI의 뉴럴 링크 동기화로 대테러가 발생하고, 어머니마저 할런에게 살해를 당하며 AI를 극도로 불신하게 된다. 이 사건으로 AI는 인류의 적이 되고, 28년의 세월이 흐른다.

AI전투 로봇 ‘스미스’ 등 선한 AI도 출현

비교적 선한 AI는 아틀라스를 도와 반역자 ‘할런’을 제압하는 AI 전투 로봇 ‘스미스’다. 극한의 상황에서 생존력을 높이기 위해선 인간과 AI 로봇이 뉴럴링크를 통해 동기화해야 한다. 그러나 아틀라스는 AI를 불신하므로 동기화가 쉽지 않다. 하지만 ‘대화’를 통해 서로를 조금씩 이해하게 되고 결국 아틀라스는 다시 한번 AI를 믿게 되고 동기화를 한다.

이는 마치 최근에 경쟁이 붙고 있는 말과 대화를 통한 생성AI챗봇을 연상케한다. 텍스트와 이미지, 영상을 넘어 음성 기능을 갖춘 GPT-4o, 메타AI 등이 미래의 그런 재앙의 씨앗이 될지는 알 수 없는 노릇이다.

박 연구원은 그러나 “터미네이터의 스카이넷, 업그레이드의 스템, 아틀라스 할런과 같은 빌런 AI는 현실에선 보기 어렵다”며 “오히려 AI가 인간에게 이로움을 주는 경우가 많다”고 낙관적 시각을 버리지 않는다. 예를 들어 아마존 열대우림의 불법 벌목을 감시하는 AI, 카사바 병해충 예측 AI, 재해 기록, 강물 수위, 지형 등을 학습해 홍수를 예방하는 AI 등의 예를 들었다. 특히 자사의 AI 탐지모델 서비스 ‘에어(AiR)’도 대표적인 사례로 꼽았다. “보안 분석가가 더욱 정확하고 빠른 의사결정을 내릴 수 있도록 돕는 AI 조력자 역할을 한다”는 것이다.

그는 “영화 속 스템과 같은 수준의 기술은 현실에서는 구현되기 어렵다. 그러나 인간과 기계가 보다 긴밀하게 융합되는 (선한 목적의) 기술이 등장할 수 있을 것으로 보인다.”고 했다. 그러나 오픈AI, 구글, MS 등의 신기술이 개발될 때마다 환각이나 오류로 인해 리콜과 출시 연기를 반복하는 현실은 미래의 그런 불안감을 증폭시키기에 충분한 사례들이다.