‘보안 암호’ 연구가 “양자컴퓨팅 기술 가속화”

[애플경제 전윤미 기자]양자컴퓨팅 기술이 실현될 가능성이 커지면서, 새삼 보안 암호의 붕괴를 우려하는 목소리도 있다. 큐비트에 근거한 양자컴퓨팅이 일상화될 경우 지금의 비트(0 or 1) 기반 소인수 분해 방식의 암호화를 위한 RSA알고리즘이 자칫 무력화될 것이란 우려다. 그러나 역설적으로 이런 보안 암호에 대한 우려는 양자 컴퓨팅 기술의 속도를 한층 높이는 촉매가 될 것이란 전망도 있어 눈길을 끈다.

“‘소인수 분해’ 장벽 쉽게 허물어질 것”

현재 일상 생활에서 가장 널리 쓰이고 있는 암호화의 방식인 RSA 알고리즘은 쉽사리 소인수 분해를 할 수 없다는 수학적 난해함을 기반으로 하고 있다. 그러나 0과 1을 동시에 구현(O & 1)하는 양자컴퓨팅의 경우 이른바 ‘쇼어 알고리즘’(Shor’s Algorithm)으로 거대 숫자의 소인수 분해마저 단시간에 어렵잖게 해냄으로써 현재의 복호화 기술인 RSA알고리즘을 무력하게 만든다는 얘기다.

이에 고려대 허준 교수의 경우 한 논문을 통해 “양자 컴퓨터가 기존 암호체계를 무력화시키는 시기는 2035년~2037년이 될 것”으로 예상하기도 했다. 반면에 대다수 전문가들은 “이런 경지에 도달하기 위해선 수백만 개의 물리적인 큐비트를 가진 양자 컴퓨터가 필요한데, 그러기 위해선 수많은 장애물과 한계들이 있어 아직은 그런 걱정이 시기상조”라는 의견이 지배적이다.

현재의 2비트 컴퓨팅으로 RSA알고리즘에 의한 암호를 풀기 위해 소인수 분해를 거듭할 경우 수 백만년이나 수 억년 혹은 광년(光年) 수준의 시간이 걸린다. 그 때문에 거대한 소수를 몇 시간 혹은 며칠 만에 풀어헤치며 소인수 분해를 완수하는 ‘쇼어 알고리즘’의 활용도에 대한 주목도가 새삼 높아지고 있다.

‘쇼어 알고리즘’ 극복은 또 다른 기술지평

이는 양자컴퓨팅 내지 양자기술의 예측 불가한 기술적 지평을 상징하는 것이란 평가다. 애초 RSA알고리즘 자체가 공개 키 암호의 한 종류로서, 거대한 2개의 소수를 곱한 값을 공개 열쇠로 사용한다. 그러나 쇼어 알고리즘을 사용하면 소인수 방식으로 된 현행 공개 키(비대칭키) 암호방식도 쉽게 깰 수 있다.

‘or’ 방식의 비트와는 달리, ‘&’ 방식의 큐비트가 늘어날수록, 표현할 수 있는 경우의 수도 2제곱씩 증가하므로 큐비트의 수를 충분히 늘리면 동시에 표현할 수 있는 경우의 수가 지수만큼 많아진다. 그러므로 이런 방식의 ‘쇼어 알고리즘’을 이용하면 아무리 거대한 소수라도 “합리적인 시간내에 소인수 분해 문제를 풀 수 있다”는 주장이 나온다.

그 동안은 거대한 소수를 인수로 분해하는 알고리즘은 없었기 때문에 RSA알고리즘에 의한 비대칭 키(공개키) 등의 암호방식은 가장 안전한 것으로 통용되었다. 그러나 이처럼 쇼어 알고리즘을 거대 소수에 적용, 소인수 분해를 단시간에 해낼 경우 지금이 공개 키 암호 방식은 모두 무용지물이 된다. 그래서 양자컴퓨팅이 본격적으로 실용화되면, 지금의 모든 암호화 방식은 전면 수정 내지 개선해야 한다는 지적이다.

지난 2021년 경제전문지 ‘포브스’는 “지구상의 90% 이상의 암호화된 인터넷 트래픽이 RSA 알고리즘을 사용한다”면서 “만약 양자컴퓨팅이 발전하여 이러한 암호를 쉽게 풀 수 있다면, 기존 인터넷상의 수많은 정보들은 쉽게 해킹되어 암호체계가 무력화되면서, 이메일이나 금융정보 등이 공개되고 모든 지구상의 시스템이 마비가 될 것”이라고 우려하기도 했다.

양자내성암호, 양자암호통신 기술 개발 중

이에 최근엔 과학자들 간에 다양한 미래형 암호화방식이 논의되면서, 양자기술 내지 양자컴퓨팅 이론의 발전 역시 가속도를 내고 있다.

그 중 양자 컴퓨터도 풀기 어려운 수학적 알고리즘 기반의 암호 체계인 양자내성암호(포스트 양자암호, PQC: Post Quantum Cryptography)나, 양자암호통신기술 등이 그 대표적인 사례다.

양자내성암호는 양자컴퓨터의 모든 공격에 대해 안전한 내성이 있어 안전한 공개키 암호이다. 이는 기존이 인수분해 등을 뛰어넘는 방식의 수학적 이론으로 안전성을 확보한다. 전문용어로 ‘다변수 기반(Multi-variate)’ 암호, ‘코드 기반(Code-based)’ 암호, ‘격자 기반(Lattice-based)’ 암호, ‘아이소제니 기반(Isogeny-based)’ 암호, ‘해시 기반 전자서명(Hash-based)’ 등 몇 가지 종류가 있다.

최근 과학자들은 양자암호통신기술도 중시하며, 이를 한창 개발에 열을 올리고 있다. 사전적 의미로 이는 “빛(광자)을 이용하여 만약 해커가 중간에 탈취나 복제를 시도하는 순간, 암호의 형태와 내용을 바꾸어 천 봉쇄하는 기술”이다.

‘네이버 지식백과’ 정의에 따르면 이는 빛 알갱이 같은 양자의 특성을 토대로 한 것이다. 즉, 양자는 애초 비트와는 달리 0이나 1이라는 특성이 결정되어 있지 않은 큐비트 속성이다. 그런 속성을 이용하여, 송신자와 수신자 양쪽에 각각 양자암호키분배(QKD) 기기를 설치하고 매번 다른 암호키를 이용하여 0 또는 1을 수시로 바꿔간다. 그래서 “중간에 정보가 유출되더라도 곧 바로 대처할 수 있어 해킹이 불가능하며, 다만 양자 암호키는 한 번만 열어 볼 수 있다”는 설명이다.

전문가들, “미래 암호화 방식이 양자컴퓨팅 기술 가속화”

KB 경영연구소 김진욱 지식경영연구팀장은 지난해 이에 관한 간명한 보고서에서 “그러나 쇼어 알고리즘의 발견에도 불구하고 암호 체계가 쉽게 붕괴되지는 않을 것”이라며 “쇼어 알고리즘이 제안된 지 20년이 넘게 지났지만, 아직은 실험으로 소인수 분해에 성공한 최대의 수가 15=3x5나, 21=3x7 등 두 가지에 불과하다”고 전했다.

그에 따르면 이런 결과도 알고리즘이 작동하기 유리한 방식으로 진행된 것으로, 완벽하게 실험적으로 증명된 것은 아니라는 반론이 있다. 그래서 “미래의 완성된 양자 컴퓨터는 몰라도, 현재로선 기술적 어려움이 많아 당장 모든 암호가 무력화되지는 않을 것이라는 게 전문가들의 중론”이라고 밝혔다.

전문가들은 정작 또 다른 키워드를 제시하고 있다. 즉, “더 중요한 것은 미래의 보안 암호 기술을 연구하는 과정”이라는 얘기다. ‘쇼어 알고리즘’ 등에 대항하는 암호화 방식, 특히 양자내성암호기술이나 양자암호통신기술 등을 연구하고, 이와 병행하는 기술을 발전시킴으로써 결국 양자컴퓨팅의 발전 속도를 더욱 가속화시킬 것이란 기대다.