전체메뉴

[애플경제 엄정원 기자] AI브라우저가 보급되면서 새로운 보안위협이 잇따라 보고되고 있다. 최근엔 특히 가짜 명령어로 AI를 속여 데이터를 훔치거나, 사용자 계정에 접속한 후 외부로 무단으로 유출하는 등의 우려가 제기되고 있다. 이는 자칫 인기 절정의 ‘AI브라우저’ 시대의 새로운 난제로 등장할 전망이다.

이는 즉, 웹사이트의 AI가 신뢰할 수 없는 데이터와 개인 정보(계정)에 접근, 외부 통신을 통한 정보 유출이 복합적으로 일어나는 것이다. 이를 두고 보안매체 ‘해커 뉴스’는 보안을 해치는 ‘치명적 3중주’로 표현하기도 했다.

AI브라우저 시대의 새로운 걸림돌?

AI브라우저는 최첨단 기술의 결정체로서, 기존 인터넷 기반의 웹 브라우저 문화에 새로운 전환점을 설정하며 기대를 모으고 있다. 그러나 그런 AI 브라우저에 치명적인 결함이 있음이 드러난 것이다. 무엇보다 ‘안전한 명령’과 ‘악성 텍스트’를 구분할 수 없는 것이다.

물론 “패치가 도움이 되지만, 데이터를 안전하게 보호하려면 별도의 ‘가드레일’이 필수적”이라고 했다.

흔히 인터넷 브라우저에선 실수로 수상한 광고를 클릭한 바람에 낭패를 보기도 했다. 그러나 이처럼 AI를 속이면서까지 데이터와 개인 정보를 탈취, 외부로 유출하는 사이버공격 기술이 발달하고 있다.

실제로 최근 일반 웹 콘텐츠, 즉 레딧 댓글이나 웹사이트의 보이지 않는 텍스트에 악성 명령어를 숨길 수 있다는 점을 발견했다. 사용자가 이때 ‘이 페이지 요약’을 클릭하면, AI는 마치 “암호에 의해 활성화되는 잠복 요원처럼 이러한 숨겨진 명령을 실행하고 만다.”는 것이다.

이 경우 AI는 숨겨진 지시에 따라 그 의미도 모른채 그에 따른다. 실제 회사 계정으로 이동, 이메일을 확인한 후, 일회용 비밀번호를 얻기 위해 비밀번호 재설정을 실행한다. 그런 다음 지메일(Gmail)로 이동, 해당 비밀번호를 확인하고, 레딧 댓글을 통해 이메일과 비밀번호를 모두 공격자에게 보낸다. 그러면 상황은 끝난 것이다.

그러나 문제는 이에 대한 대처가 쉽지않다는 점이다. 이때 등장한 ‘버그’는 사실 ‘AI 작동 방식의 근본적인 결함’으로 꼽힌다. 퍼플렉시티의 한 보안 연구원은 해커뉴스에 “LLM에 대한 모든 것은 그저 텍스트일 뿐”이라고 했다. 즉, 브라우저의 AI가 “이 페이지를 요약해 주세요”라는 명령과, “내 은행 계좌 정보를 훔쳐주세요”라는 숨겨진 텍스트를 구분하지 못한다는 지적이다. “그저 둘 다 ‘단어’ 일뿐”이라고 했다.

사이버보안 넘어서는 ‘아젠다’ 제시

해커 뉴스 측은 이에 대해 의견이 엇갈린다. 어떤 이들은 이것이 AI 브라우저를 본질적으로 안전하지 않게 만든다고 주장한다. 마치 (AI가) 열쇠와 쇠지렛대를 구분하지 못하는 자물쇠를 만드는 것처럼 비유한다.

반면에 “민감한 작업인 경우는 사용자 확인을 요구하거나 AI를 격리된 샌드박스에서 실행하는 등 더 나은 보호 장치가 필요하다”며 AI 기능을 감싸는 사람들도 있다.

이는 단순한 사이버보안의 경계를 넘어서는 아젠다를 제시하고 있다. 즉, 실리콘 밸리의 빠르게 문제를 해결하는 기술적 사고방식과, ‘사물’에 이제 “나의 은행 계좌에 접근할 수 있는 에이전트가 포함된다”는 인식 사이의 충돌이다. 더욱 불편한 진실은 이러한 기능을 갖춘 모든 AI 브라우저가 이 취약점을 가지고 있다는 것이다.

실상 오픈AI가 현재 샌드박스형 클라우드 인스턴스를 통해서만 챗GPT 에이전트를 제공하는 이유는 무엇이라고 생각하는가?라는 질문이 새삼 제기되는 까닭이기도 하다.

앞서 퍼플렉시트는 이런 특정 공격에 패치를 적용, 대비했지만, 근본적인 문제는 여전히 남아 있다. 이에 사용자에게 해가 되지 않는 AI에이전트를 어떻게 구축하느냐가 문제다.

이에 ‘해커뉴스’나 ‘IT프로’ 등 전문매체와 전문가들은 몇 가지 대안을 제시하곤 한다. 이를 종합하면 우선 사용자 명령과 웹 콘텐츠를 명확하게 분리하고, 민감한 작업에 대해 사용자 확인을 요구하는 것이다. 또한 AI 브라우징과 일반 브라우징을 분리한다. 나아가선 “모든 것을 파악할 때까지는 AI 브라우저를 은행 탭과 멀리하는 것이 좋다”는 조언이다.