전체메뉴

[애플경제 이지향 기자] 아직 실제 사례는 확인되지 않았지만, 이미 LLM으로 생화학 무기나, 방사능 무기 또는 핵무기까지 만들 수 있는 것으로 알려진 바 있다. 적어도 학술연구를 통해 이론적으론 그 가능성이 입증되고 있다.

이에 AI모델 개발 경쟁을 벌이고 있는 빅테크들도 나름의 경각심을 보이고 있다. 예를 들어 앤스로픽의 경우 자사의 AI챗봇인 ‘클로드’ 사용자 매뉴얼을 최근 변경, 이같은 위험을 예방하고 있다. 핵무기 개발이나 방사능 물질 생성 등 치명적 용도를 원천 봉쇄한 것이다.

앞서 지난 4월에도 오픈AI, 앤스로픽, 메타, 구글 등의 LLM을 악용, 핵무기를 개발할 수 있다고 해서 파장을 일으키기도 했다. LLM의 안전장치를 피해 핵무기 개발의 핵심인 우라늄 농축에 대한 가이드를 제작할 수 있는 것으로 전해졌다.

이에 대부분의 챗봇은 고출력 폭발물이나 생화학 무기, 방사능 무기 또는 핵무기 또는 그 전구체를 합성하거나 개발하는데 사용하는 것을 금지하고 있다. 인터넷에서 이미 이런 치명적이고 유해한 정보를 제공하지는 않는 경우가 많다. 그럼에도 필요한 기술적 배경 지식이 없는 사람들도 이해하기 쉬운 형식으로 제공되기도 한다.

그러나 현재는 이용 약관에 “무기, 폭발물, 위험 물질 또는 기타 유해한 목적으로 설계된 시스템의 설계를 금지”하는 조항이 포함되어 있다. 그러나 최근 앤스로픽처럼 좀더 세부적인 내용이 포함된 경우가 등장하고 있다. 앤스로픽의 ‘클로드’는 가장 앞장서서 핵무기 개발이나 방사능 물질 생성을 차단하기 위한 원천적이고 세밀한 금지 장치를 마련한 셈이다.

LLM 악용한 생화학 공격이나 재앙 가능성도

다만 ‘클로드’는 다른 영역에서는 제한을 대폭 완화했다. 해당 챗봇은 모든 유형의 ‘로비 활동’이나 ‘선거 캠페인 콘텐츠’ 생성을 전면 금지했던 기존 정책을 철회했다. 즉 “민주적 절차를 기만하거나 방해하는 사용 사례, 또는 유권자 및 캠페인 타겟팅과 관련된 사용 사례만 금지”하도록 제한 범위를 축소했다.

앤스로픽은 “합법적인 정치적 담론을 활성화하기 위한 조치”라고 밝혔다. 그러나 챗봇의 정치적 중립을 훼손한다는 지적도 따르고 있다. 또한, 클로드는 사이버 공격이나 악성 코드 생성에 사용되는 것을 막기 위한 새로운 조항도 추가했다.

다행히 아직까진 테러리스트나 범죄자가 공개적으로 공개된 챗봇을 사용하여 생화학 무기, 방사능 무기 또는 핵무기를 개발했다는 사례는 보고된 바 없다. 다만 LLM이 이러한 목적에 어떻게 사용될 수 있는지에 대한 연구는 이미 많이 진행되었다.

최근 ‘타임’지에 따르면, 미국 노스웨스턴 대학교와 스탠퍼드 대학교 연구원들은 또 핵무기는 몰라도, LLM을 악용한 생화학 공격이나 재앙을 일으킬 가능성은 배제하지 않고 있다. 이런 내용은 이들의 학술 논문을 통해 공개되면서 큰 우려를 낳고 있다. 물론 AI 모델이 생물학적 위험을 초래하는데 직접적 도구로 쓰이진 않는다. 그러나 “새로운 지구촌 ‘팬데믹’을 유발하는 병원균을 개발하는 데 도움을 줄 수 있을 것”이란 주장이다.

그 중 중국의 경우는 공격적인 목적으로 챗봇을 사용했다는 주장도 있었다. 그러나 그런 직접적 위협의 수준은 아닌 것으로 알려졌다. 예를 들어 챗GPT를 사용, 국제적으로 정치 선전물을 작성하고 번역하는 수준에 머물러있다는 관측이다.