전체메뉴

[애플경제 엄정원 기자] 마이크로소프트가 양자컴퓨터를 악용한 미래의 양자 암호화 해킹을 막아낼 수 있는 알고리즘을 장착할 것으로 전해졌다. 양자컴퓨터가 생활화될 경우, 기존 암호화 체계로는 이를 막아낼 수가 없다.

이에 MS는 오는 10월부터 전면적으로 보급하게 될 윈도우11에 이같은 보안 시스템을 지원할 계획이다. 27일 MS는 블로그 게시물을 통해 “특히 ‘Windows 11 Canary 빌드 27852’ 이상은 PQC 알고리즘을 통해 포스트 양자 암호화가 이뤄진다”면서 “이는 기존 암호화 알고리즘에 비해 탁월한 보안 기능으로 양자 컴퓨터 기반의 암호화 해킹을 막아낼 수 있다”고 밝혔다.

“미리 수집, 나중에 복호화” 위협 대응

특히, MS는 자체 암호화 라이브러리인 ‘SymCrypt’를 업그레이드함으로써 PQC 표준 양자 저항 알고리즘인 ‘ML-KEM’과 역시 PQC 기반 ‘ML-DSA’를 지원하도록 했다. 차세대 라이브러리와 인증서, 암호화 메시징 기능을 통해 암호화 API를 구현하게 한 것이다.

그 중 ‘ML-KEM’은 “지금 수집하고 나중에 복호화”하는 위협으로부터 키를 안전하게 보호하는 데 목적을 두고 있다. 해커들은 현재 표적 데이터를 수집하는 데 집중한 후, 이를 일단 저장한 후, 양자 컴퓨터가 표적 데이터의 암호화를 해독할 수 있을 만큼 빨라질 때까지 기다렸다가 공격에 나선다. 양자 저항 알고리즘은 이에 대응한 것이다.

이같은 MS의 최신 양자 컴퓨팅은 과학자들에 의해 그 동안 “신뢰할 수 없다”는 지적을 받아왔다. 그러나 MS의 스마트 앱 컨트롤은 악성 코드를 차단하면서도 PC 성능에 미치는 영향은 적다는 설명이다. 그 중 PQC 기반의 알고리즘인 ‘ML-DSA’는 신원 확인과 디지털 서명 무결성 유지가 필요한 시나리오에 적합하도록 설계되었다.

이때 기반이 되는 PQC 알고리즘은 양자 컴퓨터의 공격에 대응하기 위해 특별히 설계되었으며, 기존 컴퓨터와 양자 컴퓨터 모두 처리하기 어려운 수학 방정식을 사용한다. 이는 그러나 기존 암호화 알고리즘보다 하드웨어에 훨씬 더 많은 부담을 준다. 키가 더 크고, 계산이 오래 걸리고, 더 넓은 대역폭을 필요로 한다.

MS는 “공공보안 표준에 걸맞은 높은 보안기능, 성능, 호환성을 고려해 PQC 알고리즘을 신중하게 선택했다”고 밝혔다. PQC는 MS에서 사용되고 있을 뿐만 아니라 TLS, SSH, IPSec 등 여러 산업 표준에도 구현되고 있을 만큼, 양자 컴퓨터에 대한 주요 보안 수단으로 자리매김할 것으로 보인다.

가까운 시일에 리눅스에도 PQC 적용

‘SymCrypt’는 MS의 주요 암호화 라이브러리로, Microsoft 365, 애저(Azure)부터 윈도우 11, 윈도우 서버 2025에 이르기까지 다양한 발신 서비스와 운영 체제에서 사용된다. 이메일 보안, 클라우드 스토리지, 웹 브라우징 등에 보안 기능을 제공하기도 한다.

특히 PQC가 ‘SymCrypt’에 내장됨으로써 MS는 윈도우 운영 체제나 기타 제품의 전체 생태계를 양자 컴퓨터의 향후 공격으로부터 막아낼 태세를 갖추고 있다. 현재 이 기술은 앞서 언급한 ‘27852 Canary 빌드’(또는 이후 버전)가 설치된 윈도우 11에서 테스트되고 있다. PQC는 가까운 시일 내에 리눅스에도 적용될 예정이다. MS는 특히 맬웨어 ‘BitLocker’에 PQC 업데이트를 적용할 예정이지만, 그 여부와 시기를 밝히지 않고 있다.

이제 양자 컴퓨터의 공격은 실질적인 위협이 되고 있다. 작년 중국 연구진은 ‘D-Wave’ 양자 컴퓨터를 이용, 군사용 등급의 ​​암호화를 성공적으로 해독했다. 이는 테스트 목적으로 수행되었지만, 양자 컴퓨터가 이미 세계에서 가장 복잡한 고전 암호 체계 중 일부를 해독할 수 있는 충분한 컴퓨팅 능력을 갖추고 있음을 보여주었다. 즉 “양자 컴퓨터가 개발되고 주류로 자리 잡으면서 이러한 사이버 위협은 앞으로 더욱 심각해질 것”이란 우려다. 그래서 이번 MS의 윈도우11에 PQC 알고리즘이 접목된 사실은 특별한 의미를 부여받고 있다.