생성AI 활용 사이버보안, “해커에 이길 수 없어”

[애플경제 전윤미 기자] 생성AI를 이용한 사이버보안 기술도 발전하고 있다. 그러나 아직은 사이버 보안 역량은 해커들이 한 수 위란 평가가 많다. 업계에 따르면, 해커는 오히려 현재의 생성A 기술을 적극 활용, 더 유리한 고지를 차지하고 있다는 우려다.

물론 전문가들 일각에선 생성 AI가 보안 (전문가 등) 커뮤니티와, 사이버 범죄자들 간의 지속적인 ‘사이버 군비’ 경쟁에서 전자가 새로운 지평을 연 것으로 보고 있다. 그러나 좀더 많은 보안 전문가들은 “해커들이 더 많은 공격 수법을 확보할 수 있을 것”으로 간주하기도 한다.

“해커들, 생성AI로 더 많은 공격 수법 확보할 것”

글로벌 보안업체인 오렌지 사이버디펜스(Orange Cyberdefense)는 “좀더 두고봐야겠지만, 아직은 생성AI로 보안 도구로 활용하기보단, 해커가 (사이버보안 측면에서) 자신들이 해킹 수법으로 악용할 가능성이 더 크다”고 했다.

실제로 많은 해커들은 이미 생성AI를 적극 활용해 사이버공격 도구로 쓰는 사례가 비일비재한 상황이다.

오렌지 사이버디펜스는 생성 AI가 제공하는 다양한 공격 및 방어 기능을 정리, 소개해 눈길을 끌었다. 즉 “생성 AI 도구가 보안에 비대칭적인 영향을 미쳐 공격적인 면을 크게 선호할 것”이라고 단언했다. 흔히 생성 AI가 ‘피싱’ 페이지나 메시지 등과 같은 ‘사회 공학적’ 공격을 위해 수법을 동원하는 등, 해커에게 도움을 줄 수 여지에 대해 많은 논란이 있었다.

특히 “LLM은 주로 해커가 대상에 가할 수 있는 ‘공격의 총량’을 엄청나게 늘려 공격자를 도울 것”이라고 주장했다.

애초 GPT 등 생성AI는 어마어마한 콘텐츠를 생산해낼 수 있기 때문에 “해커로선 한껏 자신이 원하는 공격 수단을 생성해낼 수 있다”는 것이다. 이들 해커는 악성 LLM과 같은 생성 AI의 새로운 공격적 응용 프로그램 덕을 톡톡히 보고 있다. 문제는 현재의 시점에선 이런 위협 환경을 근본적으로 바꿀 만한 어떤 대안도 없다는 사실이다. 설사 AI개발자 등이 방대한 데이터를 확보하고 있다고 해도, 해커들의 공격 수법 생성에는 미치지 못한다는 지적이다.

그런 점에서 “사이버 보안 방어자의 ‘데이터 생성 능력’이 더 우위에 있으므로, 해킹을 탐지하고 해결하는 데 있어 유리한 입장에 있다”는 일부 보안 전문가들의 견해를 부정하는 시각이 많다. 앞서 오렌지 사이버디펜스는 “그런 변수가 AI의 보안 능력에는 전혀 영향을 끼치지 못할 것”이라고 했다.

생성AI 데이터생성능력, 해커에게 ‘좋은 일’

오히려 생성AI의 방대한 데이터 생성 능력은 해커들에게 크게 역이용될 것이란 전망이다. “방어자가 생성AI를 보유함으로써 반드시 자동적으로 즉시 이익을 얻는다고 생각하지 않는다”는 것이다. 특히 머신 러닝을 보유함으로써 흔히 우위에 설 것이란 예상도 근거가 없다는 지적이다.

현재는 생성AI를 이용한 엔드포인트 탐지 대응(EDR)이나, 침입 탐지 시스템(IDS)과 같은 도구를 사용한 위협 탐지에 쓰인다. 그 정도의 생성 AI로는 이러한 변혁적 잠재력을 보기가 더 어렵다는 지젂이다. 오히려 이같은 생성AI의 탁월한 데이터 생성능력은 해커들에겐 좋은 무기로 돌변할 수 있다는 지적이다.

AI가 생성한 사회 공학 콘텐츠를 탐지하기 위해 검색 증강 생성(RAG)을 잠재적으로 사용할 경우, 사이버 공격자와 방어자 간의 근본적인 불균형은 여전할 것이란 경고다. 이에 “공격자와 방어자 간의 긴장 상태에서 비대칭은 공격자에게 유리하다”는 우려도 높다. 앞서 오렌지 사이버디펜스는 “ 이제 방어자는 들어오는 모든 가짜를 식별해야 하고, 공격자는 가짜를 하나만 통과시키면 된다.”면서 “만약 둘 다 가속화되면 공격자가 더 많은 이익을 얻을 것”이라고 경고했다.