전체메뉴

[애플경제 김예지 기자] AI 딥페이크부터 내부 정보 유출까지, 사이버 보안 위협은 점점 더 정교해지고 다양해지고 있다. 단순한 방어로는 막기 어려운 시대가 되면서, 학계와 산업계는 실시간 탐지와 사전 차단에 초점을 맞춘 기술 개발에 속도를 내고 있다. 이런 흐름 속에서 열린 ‘2025 월드IT쇼’에서는 실질적인 대응이 가능한 보안 기술들이 대거 소개됐다.

음성 딥페이크 여부를 실시간으로 탐지할 수 있는 인공지능 기반 기술부터 기업용 PC 내부에서 정보가 유출되기 전에 차단할 수 있는 통합 보안 솔루션까지 다양한 위협에 맞설 수 있는 현실적인 대안들이 눈에 띄었다.

큐빅, ‘API 호출 전’ 선제적 보호…보안 민감 업계에 적합

‘IBK창공관’에 위치한 큐빅은 이번 전시에서 생성형 AI 환경에서의 정보 유출 우려를 줄이기 위한 보안 솔루션 ‘LLM Capsule’을 소개했다. 이 제품은 사용자가 GPT 같은 AI를 활용하는 과정에서, 입력하는 데이터 중 민감한 내용을 자동으로 골라내고, 외부에 전송되기 전에 비식별화 처리하는 기능을 중심으로 한다.

현장에서는 관련 기능을 실시간으로 시연하고 있었는데, 예를 들어 사용자가 고객 정보가 담긴 문서를 복사해 붙여넣는 순간, 이름이나 전화번호 등 민감한 항목이 자동으로 가려지고, GPT는 이 비식별 데이터를 바탕으로 답변을 생성했다. 생성된 답변은 비식별 처리된 데이터를 기반으로 생성되며, 사용자의 화면에서는 원래 정보와 자연스럽게 연결돼 출력된다.

LLM Capsule의 핵심은 ‘사전 차단’이다. 민감 정보가 외부 API로 전달되기 전에 내부 필터링 장치에서 걸러내는 구조이기 때문에, 기존 GPT API 보안 설정만으로는 부족하다고 느꼈던 기업들에게 특히 유용하다.

현장 설명을 맡은 큐빅 관계자는 “GPT를 사용하더라도 정보보호 기준을 충족해야 하는 업종에선 사전 보호장치 없이는 도입이 사실상 어렵다”며 “이 솔루션은 내부망 기반이나 망분리 환경에서도 쓸 수 있도록 구축된 게 장점”이라고 말했다.

실제 LLM Capsule은 별도의 클라우드 기반 서비스가 아니라, 사용자의 컴퓨터 또는 사내 네트워크 안에 설치해 운영하는 구조다. 이런 방식은 공공기관, 금융기관, 병원처럼 내부 데이터를 외부에 유출할 수 없는 환경에 적합하다.

응답 품질도 고려됐다. 프롬프트 필터링 과정에서도 GPT의 응답이 부자연스럽거나 정확도가 떨어지는 문제를 최소화하기 위한 기술이 적용돼 있었다. 이 역시 현장에서 직접 확인할 수 있었다.

AI로 딥페이크 음성을 잡는다, 숭실대의 실시간 탐지 기술

ITRC 인재양성대전에 참가한 숭실대학교 AI 보안연구센터는 최근 주목받고 있는 음성 기반 딥페이크 문제에 대응하기 위한 다양한 기술을 소개했다. 대표적인 기술은 ‘오디오 딥페이크 탐지 시스템’으로, 입력된 음성이 인공지능을 통해 합성된 것인지 여부를 판별해주는 솔루션이다.

이 시스템은 '지도 대조 학습(SCL)'을 기반으로, 진짜와 가짜 음성 간의 미세한 차이를 인공지능이 학습할 수 있도록 설계됐다. 또한, 실제 음성과 거의 유사한 음성을 새롭게 만들어 비교하는 ‘HAR’ 방식과, 데이터를 균형 있게 학습시킬 수 있도록 돕는 ‘PBS’ 알고리즘도 포함됐다. 중요 정보만을 선별해 탐지 성능을 높이는 ‘VIB’ 구조도 도입해 성능을 한층 끌어올렸다.

탐지 정확도는 테스트 데이터 기준으로 97%, 실제 환경에서는 94%에 달하며, 휴대기기에서도 동작 가능한 ‘CATCHAL’ 앱도 함께 공개됐다. 이 앱은 0.5초 안에 분석을 마치고 결과를 퍼센트로 제공하며, 잡음이나 침묵 구간을 필터링해 오탐 가능성을 줄였다. 앱은 약 700MB 수준으로, AI 모델은 298MB로 경량화돼 스마트폰에서 무리 없이 동작할 수 있다.

이와 함께 음성 인증과 딥페이크 탐지를 결합한 ‘SASV 시스템’도 전시됐다. 이는 사용자의 목소리를 기반으로 화자를 인증하고, 동시에 AI 합성 여부까지 판별하는 복합 기능을 제공한다. 자체 개발한 훈련 전략과 앙상블 모델을 기반으로, 실제 사용자 음성과 합성 음성을 동시에 판별해 실사용 환경에서도 높은 안정성을 제공한다.

회의 중에도 보안이 필요한 사용자들을 위한 ‘SPEEKEY’도 주목할 만하다. 사용자가 회의에 참여할 때 음성을 백그라운드에서 실시간 모니터링해 음성 위조 여부를 확인하고, 등록된 사용자와 일치하지 않는 경우 자동으로 차단한다. ‘Activate’ 버튼 한 번으로 작동하며, 참가자별 음성 스캔 후 승인 여부를 바로 확인할 수 있도록 설계됐다.

AISRC는 이 외에도, AI 음성 생성 기술에 방해 노이즈를 삽입해 음성 복제를 어렵게 만드는 ‘Antifake-NMR’ 기술과, 음성에 워터마크를 삽입하는 기술도 함께 개발 중이다. 향후에는 웹 기반 API 형태로도 딥페이크 탐지 서비스를 제공할 계획이다.

엑소스피어, 내부·외부 위협 모두 막는 ‘올인원 PC 보안’ 솔루션

이 외에도 USB 차단, SSO, 캡처 방지 등 전통적인 보안 기술을 통합해 통합 패키지 형식으로 적용해 편의성에 초점을 둔 기업들도 있었다. 엑소스피어는 사내 보안 체계가 부족하거나, 개인 정보 및 기술 파일이 외부로 유출될 가능성이 높은 기업 환경을 타겟으로 한 보안 솔루션을 전면에 내세웠다. 특히, 하나의 에이전트로 외부 침입과 내부 실수로 인한 정보 유출 모두를 막을 수 있는 점이 강점이다.

외부 보안 측면에서는 악성 코드, 랜섬웨어, 취약점 점검, 유해 사이트 차단 등을 지원한다. 글로벌 보안 엔진을 기반으로 실시간 위협을 탐지하며, 지속적으로 시스템을 점검해 외부 공격을 선제적으로 막는다.

내부 정보 유출 방지 기능도 다채롭다. 이메일이나 메신저를 통한 파일 반출은 물론, USB나 출력물, 화면 캡처 등을 통한 데이터 유출까지 감지하고 차단할 수 있다. 개인정보를 자동으로 검출해 암호화하고, 직원의 실수나 고의적인 정보 유출도 예방할 수 있는 체계를 갖췄다.

엑소스피어는 PC 보안 외에도, ID 보안을 위한 SSO(싱글사인온) 기반 접근제어 솔루션도 함께 공개했다. 이를 통해 업무용 SaaS 서비스 접속 시 복잡한 로그인 절차 없이 간편하게 인증할 수 있으며, 패스워드리스 방식도 지원된다. 또한, 접속 기록을 체계적으로 관리할 수 있어 보안 사고 발생 시 추적이 가능하며, PC 보안 시스템과 연동해 추가적인 보안 기능도 확장할 수 있다.