“2년 내, ‘AI 에이전트 멜웨어’에 모든 보안 무력화”

[애플경제 전윤미 기자] AI는 점차 가장 치명적인 사이버무기의 토대가 될 것이란 우려가 높다. 특히 새해 첫날 미국 라스베이거스에서 테슬라 사이버트럭 폭발시켜 큰 피해를 안긴 용의자가 AI를 사용하여 폭발을 계획한 것으로 밝혀지기도 했다. 용의자인 매튜 리벨스버거는 챗GPT를 검색, 테러에 필요한 폭발물의 종류와 숫자, 권총과 무기 등을 파악해낸 것으로 알려졌다.

이같은 테러 사태에 AI가 활용될 뿐 아니라, 그 못지않게 심각한 것은 현재의 각종 보안 도구를 일거에 무력화시킬 AI 기반의 사이버 공격 무기가 곧 보편화될 것이란 경고도 최근 제기돼 더욱 우려를 증폭시키고 있다.

“대비할 시간, 불과 2년 밖에 안 남아”

일부 기술매체 등을 종합하면 최근 나토(NATO)가 지원하는 보안 스타트업인 ‘골디록(Goldilock)’은 “세계는 현재의 보안 도구를 회피할 수 있는 AI 기반 사이버 무기에 대비할 시간이 약 2년밖에 안 남았다”며 이같이 경고해 주목을 끌고 있다. 이에 각국 정부도 AI를 더욱 안전하게 사용하되, 에너지망이나 철도와 같은 중요한 인프라를 보호하기 위한 사이버 대응책을 신속하게 구비해야 한다는 주문이다.

그런 대비책을 서두르지 않을 경우, “2년 안에 에이전트 맬웨어가 현실이 될 것”이라고까지 했다. 다시 말해 차세대 AI비서로 인식되고 있는 AI에이전트가 ‘멜웨어’로 돌변, 인류에게 재앙적 무기가 될 것이란 경고다.

그런 맬웨어는 악명 높은 ‘스턱스넷’(Stuxnet) 맬웨어처럼 컴퓨터 네트워크를 거침없이 뚫고 들어갈 수 있는 능력을 갖고 있다. 이는 주로 산업 제어 시스템을 타겟으로 하는 악성 소프트웨어다. 단순한 사이버 공격을 넘어서 산업 시스템에 특화된 타깃을 가진 고도의 사이버 무기다. 주로 윈도우를 통해 감염되는 컴퓨터 웜이다. 웬만한 컴퓨터 내의 탐지 시스템도 이를 감지해낼 수 없는 치명적 무기다.

AI에이전트 멜웨어, 적대국이나 경쟁업체 침투 능력 뛰어나

이는 한때 제로데이 취약점을 악용하여 지멘스의 산업용 제어 시스템에 액세스하기도 했다. 또 이 공격을 당한 이란의 경우 원심분리기 1,000대 이상이 파괴되었다. 나아가서 AI 기반 ‘스턱스넷’은 더욱 치명적이다. 이는 특정 시스템을 표적으로 삼는다기보단, 맬웨어가 새로운 대상을 스스로 식별해 자동으로 손상되도록 한다.

특히 요즘처럼 국제 정세가 험악하고, 국가 간 갈등이 심화된 상황에선 적대 세력 간에 AI 기반 사이버 무기를 적극 활용할 가능성이 커지고 있다.

예를 들어 중국이 오는 2027년, 즉 지금으로부터 불과 2년 후에 만약 대만을 침공할 경우도 이를 십분 활용할 수 있을 것이란 얘기다. 그런 경우 특히 에너지망이나, 교통망, 금융 기관, 의료 시스템이 에이전트 맬웨어에 가장 취약하다는 분석이다. 또 제3국이 다른 나라의 사회적 혼란이나 공황상태를 부추길 목적으로 이런 종류의 AI 맬웨어를 먼저 개발, 공격 무기로 배포할 가능성이 높다. 전력망을 차단하거나 병원 기능을 마비시키는 등의 공격에도 악용될 소지가 크다.

그럼에도 불구하고, 현재까지는 상호 적대적인 국가나 사이버 범죄 조직이 자체 에이전트 맬웨어를 개발하는 것을 막을 수 있는 장애물은 거의 없다는게 문제다. 이에 “지금보다 한층 발달한 사이버 보안 기술을 개발하지 않으면 문제가 심각해진다”는 우려가 끊이지 않고 있다. 그러나 아직은 AI업계의 빅 테크가 이를 따라잡지 못하고 있다.

물론 “AI 기반 보안 도구를 역이용해서 AI 기반 맬웨어를 막을 수 있지 않느냐”는 반문도 가능하다. 그러나 더 많은 업계 사이버보안 전문가들은 “AI만으로 AI와 싸우는 것만으로는 문제가 해결되지 않는다”는 의견이 지배적이다.

우선 ‘AI의 민주화’가 가장 큰 걸림돌이다. AI는 이미 누구나 사용하고, 배우고, 기존 코드를 가져와 적용할 수 있기 때문이다. 광범위하게 일반화된 코딩 문화 속에서 유독 이를 기반으로 한 사이버공격을 막아내긴 어려울 것이란 얘기다.

‘원격 킬 스위치’로 서버 분리 등 신속 대응 필요

이에 앞서 ‘골디록’ 등 일부 보안 전문가들은 “악성 활동이 감지되는 즉시 중요 인프라 회사 시스템의 서버에서 문제가 발생한 서버를 분리하는 ‘원격 킬 스위치’가 필요하다”고 제안하기도 한다. 그러기 위해선 서버 분리가 가능한 네트워크 세분화가 중요 인프라의 원리가 되어야 한다는 주장이다. 또한 신속한 대응을 위해 ‘원격제어’가 중요하다. 아직도 인프라 팀이 사이버 위협을 감지하면, 굳이 현장의 발전소 등 설비와 시설에 직접 접근해서 수동으로 케이블을 분리하는게 현실이기 때문이다.

그래서 ‘네트워크 세분화’는 AI 기반 사이버공격 무기를 방어하고, AI로 무장한 ‘스턱스넷’과 같은 악성 멜웨어를 막아내는 효율적 대응책이란 주문이다. 이와 함께 “AI 강화 위협 인텔리전스를 공유하고, AI 기반 탐지 시스템과 사이버 도구 구축에 주력해야 한다”는 조언이다.