“개인․국가 망라, ‘범인류적 AI군축’ 필요”

[애플경제 김홍기 기자] 29일 블룸버그는 “AI 킬러 로봇 무기 경쟁, ‘오펜하이머’의 순간이 왔다(AI Faces Its ‘Oppenheimer Moment’ During Killer Robot Arms Race)”는 제목을 단 기사를 내보냈다. 2차대전 당시 오펜하이머가 개발한 원자폭탄을 일본에 투하, 항복을 받아낸 일을 오늘의 AI무기경쟁에 빗댄 것이다. 특히 원폭 개발 당사자인 오펜하이머가 정작 ‘핵 통제’ 등 반핵운동에 앞장섰던 일을 상기한 표현이기도 하다.

블룸버그는 수 일 전에 러-우크라 전장에서 우크라이나군이 정찰 드론을 발사하고 있는 사진과 함께 게재한 기사에서 “AI기술이 급속히 발달하면서 이처럼 인공지능을 기반을 한 로봇이나 살상무기 경쟁도 치열해지고 있다”고 경고했다.

AI무기 경쟁, 걷잡을 수 없이 확산 중

이런 AI무기 경쟁은 이미 웬만한 국가간 타협이나 규제 움직임으로도 제어할 수 없을 만큼 보편화되며, 확산 중이다. 특히 러-우크라 전과 이-팔 분쟁이 동시에 진행되고, 세계 각지에서 크고작은 분쟁과 긴장 국면이 이어지면서 AI는 이젠 가장 강력한 무기로 떠오르고 있다. AI 알고리즘이나 이를 바탕으로 한 무인 항공기, 드론 등은 이미 적의 목표물을 타격하는데 최적화된 무기로 각광받고 있다. 그래서 “멀지 않아 사람 대신, 전적으로 AI가 전쟁을 대신 수행할 수도 있을 것”이란 예상마저 나올 정도다.

더욱이 이는 국가 간의 문제에 국한되지 않는다는 지적이다. 멀지 않아 누구나 자율조정장치와 이를 활용한 자율 무기를 쉽게 이용할 수 있게 된다. 그 때문에 예전처럼 군사용 무기에 접근할 있는 정부나 극소수 개인만이 군비 경쟁에 참여할 수 있다는 공식이 더 이상 통하지 않게 된다. 특히 3D 프린터와 기본 프로그래밍 지식을 갖춘 학생들까지도 광범위한 사상자를 유발할 수 있는 드론이나 AI무기를 만들어내는 시대가 되었다. 그래서 “AI 기반 의 자율 무기 시스템은 인류 평화에 치명적인 결과를 가져오며, 국제적인 안정의 개념을 영원히 바꿔 놓을 것”이라는 우려가 높다.

‘비엔나 AI군축 회의’서 다양한 우려 쏟아져

앞서 블룸버그의 기사 제목처럼 최근 알렉산더 샬렌버그 오스트리아 외무장관은 1945년 원자폭탄을 발명한 후 핵무기 확산을 통제해야 한다고 주장했던 로버트 오펜하이머 박사를 언급하며, “지금이야말로 우리 세대의 오펜하이머 순간(Oppenheimer Moment)”이 필요하다고 강조했다. AI 개발과 무기화에 대한 범인류적 각성이 필요함을 일깨운 것이다.

이처럼 디지털시대 군비 통제의 가장 큰 이슈로 AI기술이 떠오르고 있다. 29일 비엔나에서 100여 개국의 민간 전문가와 군사 및 기술 관계자들이 모인 ‘AI 군비통제’회담의 핵심 의제도 ‘AI무기’와 ‘AI군축’이었다. 이날 참석자들은 AI와 군사 기술이 결합하는 현상을 통제할 수 있는 방안을 깊이 논의한 것으로 전해졌다. 그러나 아이러니컬하게도 AI와 군비는 모두 투자자들에게 인기를 끌며, 관련 기업의 주식 가치를 사상 최고치로 끌어올리고 있는 현실이다. AI에 주력하며 자사 기술을 과시하는 기업일수록 투자자들이 몰리고 있다.

이런 역설적 현상은 AI킬러 로봇과 같이 인류평화를 위협하는 AI무기를 제어하기 힘든 현실을 보여주는 대목이다. 구글의 AI플랫폼 딥마인드 테크놀로지에 자신도 투자하고 있다는 한 투자자는 “실리콘 밸리의 인센티브(목표)는 나머지 인류(의 평화)와 일치하지 않을 수 있다.”고 스스로 토로하기도 했다.

미국, EU, 러-우크라, 중동분쟁 등 ‘AI무기’ 적극 활용

그의 고백을 전한 ‘비즈니스 인사이더’는 “각국 정부는 AI 도구를 군사용으로 결합하는 기업과 협력하기 위한 정책을 펴는 경우가 많다”면서 “특히 미국 국방부는 AI 스타트업에 수백만 달러를 쏟아 붓고 있다.”고 지적했다. 또 EU도 전장에서 적을 정확히 식별하기 위한 AI 무기용 이미지 DB를 생성하기 위해 프랑스의 엔지니어링 그룹이 탈레스 그룹(Thales SA)에 거액을 지원하기도 했다.

최근 중동 분쟁 현장에선 더욱 이를 실감할 수 있다. 텔아비브에 본사를 둔 ‘+972 매거진’은 “이번 달 이스라엘이 암살 표적을 찾기 위해 ‘라벤더’라는 인공지능 프로그램을 사용하고 있다”고 보도한 바 있다. 비록 이스라엘 당국이 이를 부인하고 있지만, “AI 시스템이 전례없는 팔레스타인 폭격에 중심 역할을 했다”는 해당 보도가 사실일 가능성에 더욱 무게가 실리고 있다.

국가 이외 ‘평범한 개인’ 포함한 ‘AI군축’ 합의 절실

일부 전문가들 사이에선 이런 AI무기의 확산을 두고 “예전 영화에서나 봄직한 ‘도살 로봇’의 미래가 이제 현실이 되었다”며 차제에 UN 차원에서 AI군축 조약이 필요하다는 목소리도 나오고 있다. 그러나 오스트리아의 최고 군축 책임자이자 이번 비엔나 군축회의를 기획한 알렉산더 크멘트는 “AI군축을 위해 외교적 해결책을 주장하는 사람들로선 적어도 당분간은 큰 좌절감을 느낄 수 밖에 없을 것”이라고 블룸버그와의 인터뷰에서 밝혔다. 실효성있는 ‘AI군축’이 현실적으로 불가능함을 꼬집은 것이다.

그는 “군비 통제에 대한 고전적인 접근 방식은 효과가 없다.”며 “AI무기는 물리적인 재래식 무기 시스템과 달리, (전쟁과 평화 양쪽을 넘나드는) 이중 용도의 기술 조합이기 때문”이라고 우려했다. 그래서 딱히 새롭고 획기적인 AI군축조약을 기대하기보단, 각국이 기왕에 동원 가능한 법적 도구를 십분 활용, 문제를 해결해야 한다는 주장이다. 특히 ‘수출 통제’와 인도주의적 법률을 강화하면, 그나마 AI 무기 시스템의 확산을 억제하는 데 도움이 될 수 있다며 나름의 해법을 제시하기도 했다.

그러면서 “특히 AI무기가 파괴 의도를 지닌 개인이나 테러리스트들에겐 가공할 만한 무기가 될 수 있다. 이에 국제적으로 새로운 ‘AI군축’과 이를 실현하기 위한 세부적인 규칙이 필수”라고 조언했다.