AI로 강화된 사이버공격, 전체 보안사고 중 가장 많아
생성AI로 합법적 커뮤니케이션 모방, 다이 채널 공격, 오류 주입 등
[애플경제 전윤미 기자] AI가 이젠 해킹이나 디도스, 피싱 등 사이버공격의 치명적 무기로 자리잡고 있다. AI를 기반으로 한 더욱 악랄한 수법으로 진화하고 있다. 특히 생성AI의 고도의 추론과 지능을 사이버 공격에 접목하는 사례도 늘어나고 있어 우려를 낳고 있다. 실제로 가트너에 의하면 최근엔 AI로 더욱 강력하고 악랄해진 악성 공격이 모든 사이버공격의 주류가 되고 있다는 분석이다.
이는 그야말로 기업으로선 재앙이 아닐 수 없다. 가뜩이나 생성AI의 위험성과 그로부터의 안전이 이슈가 되고 있다. 사이버위협은 그런 AI로 인한 피해와 위험성의 대표적 사례가 되고 있는 셈이다.
AI 기반의 해킹 등 날로 급증
가트너가 실태를 알아보기 위해 최근 두 달 동안 300명 가까운 각국의 사이버보안 관련 기업인들을 대상으로 실시한 설문 조사도 이를 뒷받침하고 있다. 전체의 80%가 AI로 강화된 악성 공격을 가장 큰 위협으로 꼽았다. 이는 그 만큼 AI를 무기로 한 해킹 등이 증가하고 있기 때문이다. 특히 AI를 사용, 맬웨어를 작성하고 피싱 이메일을 살포하는 일도 부쩍 늘어났다.
글로벌 보안업계에 따르면 이런 AI 기반의 악성 사이버공격은 널리 확산되고 있다. 앞서 지난 6월 HP사는 “생성AI의 도움으로 작성되었을 가능성이 매우 높은 스크립트로 맬웨어를 퍼뜨리는 이메일 캠페인을 적발했다.”면서 “당시의 VBScript는 깔끔하게 구성되어 있었고 각 명령에는 주석이 있었는데, 이는 사람이 작성할 만한 내용이 아니었다”고 밝혔다. 즉, “생성AI를 사용, 스크립트를 생성하고 유사한 내용을 출력한 경우를 발견했으며, 이는 원래 맬웨어가 부분적으로 AI에서 생성되었음을 시사한다.”고 밝혔다.
보안 회사 ‘바이퍼’Vipre’가 2분기에 감지한 비즈니스 이메일 침해 공격 수는 2023년 같은 기간보다 20% 더 늘었다. 그 중 5분의 2가 AI에서 생성된 것으로 밝혀졌다. 주요 대상은 CEO였고, 그 다음은 HR 및 IT 인력이었다. ‘바이퍼’사는 이에 대해 “악의적인 공격자들은 정교한 AI 알고리즘을 활용해 합법적인 커뮤니케이션의 톤과 스타일을 모방, 매력적인 피싱 이메일을 작성하는 속임수를 쓰고 있다.”고 말했다.
보안업체인 ‘Imperva Threat Research’는 특히 “리테일 사이트만 해도 4월부터 9월까지 매일 평균 569,884건의 AI 기반 공격을 경험했다”고 밝혔다. 그러면서 “챗GPT, 클로드, 제미니 등과 같은 도구와 LLM 교육 데이터를 위해 웹사이트를 스크래핑하는 특수 봇에 의한 분산 서비스 거부 공격과 비즈니스 로직 악용이 난무하고 있다”고 지적했다.
역시 보안업체 ‘BugCrowd’ 보고서에 따르면, 해커들 중 다수는 스스로 “생성AI를 사용하고 있다”고 실토하고 있다. 그 빈도도 크게 늘어 작년에 64%에서 77%로 증가했다. 이들은 생성AI를 악용, 다이 채널을 공격하거나, 오류를 주입하고, 여러 장치를 동시에 침해하기 위한 병렬화된 자동화 공격 수법을 동원하기도 한다.
특정 공급업체에 대한 과도한 의존은 ‘문제’
이처럼 AI는 사이버 범죄를 한층 용이하고 정교한 수준으로 진화시키고 있다. 기술이 부족한 범죄자라도 손쉽게 딥페이크를 생성하고, 진입점을 찾기 위해 네트워크를 쉽게 스캔하며, 정찰하는 등의 용도로 사용할 수 있기 때문이다.
이에 최근엔 인간과 봇을 완벽하게 구분하는 데 사용되는 ‘구글 reCAPTCHAv2’ 퍼즐을 풀 수 있는 모델이 개발되었다. 인간과 봇의 식별 기술조차 무력하게 만드는 셈이다. 이에 보안 회사 ‘Radware’는 “이런 새로운 공격 기술이 개발되면서, 사악한 목적으로 사용되는 비공개 GPT 모델이 곧 개발될 것”이라며 “또한 악의적인 행위자가 LLM과 생성적, 적대적 네트워크를 더 능숙하게 사용함으로써 제로데이 익스플로잇과 딥페이크 사기가 크게 증가할 것”으로 예측했다.
실제로 구글의 맨디언트(Mandiant)사는 2023년에 발견되어 악용된 총 97개의 제로데이 취약점을 추적했다. 이는 전년 대비 무려 56%나 증가한 수치다. 지난달 마이크로소프트는 또 “날로 만연하는 랜섬웨어 그룹의 가장 중요한 공격 유형 중 하나”로 딥페이크를 꼽았다. 또 다른 전문가들은 제3자 SW나 오픈소스 등 IT공급업체에 대한 과도한 의존을 우려하고 있다.
가트너는 결론적으로 “특정한 공급업체의 여러 기술이나 서비스를 집중적으로 사용하는 고객은 블랙아웃이 증가하거나 EU, 미국 또는 기타 지역의 새로운 규정이나 법적 결정에 따라 예상치 못한 난관에 처할 수 있다”고 경계했다. 특히 전 세계적으로 약 850만 대의 윈도우 기기가 사용 불능 상태가 되고, 응급 서비스, 공항, 법 집행 기관 등 기타 필수 기관에 엄청난 혼란을 초래한 7월의 크라우드스트라이크 사건을 언급하기도 했다.
그럼에도 “SaaS 공급업체 등 제3자 역시 다른 공급업체에 의존하는 등 사슬구조로 인해 특정 기업으로선 정보 유출 등 피해의 범위조차 정확히 파악하기 힘든 현실”이라고 했다. 심지어는 “전 세계 기업의 45%가 2025년에는 소프트웨어 공급망에 대한 공격을 경험하게 될 것”이라는 가트너의 경고다.