AI머신러닝 적용, 최소 큐비트로 고도의 병렬 계산 가능
쇼어 알고리즘, 그로버 검색 알고리즘, 양자 푸리에 변환 알고리즘 등
큐비트 중첩 ‘하다마드’, 1개 큐비트 X게이트, 2개 큐비트 얽힘 CNOT 게이트 등
[애플경제 전윤미 기자] 양자컴퓨팅 기술 개발이 한창인 가운데, 큐비트, 중첩과 얽힘 형태의 양자데이터를 기존 머신러닝(ML)에 의해 양자알고리즘으로 구현하는 QML 기반의 양자알고리즘 구현 방식이 주목받고 있다.
QML 양자알고리즘은 큐비트가 적더라도 고차원의 데이터를 표현할 수 있는 병렬 계산 성능이 뛰어나다. 또 기존의 머신 러닝 모델에 비해서도 파라미터 수가 적은 상태에서 데이터 인코딩을 원활하게 할 수 있다.
적은 큐비트로 초고속 연산과 인코딩 지향
이런 장점을 활용한 양자알고리즘은 양자적 연산을 위해 실행되는 양자회로 모델로서, 양자 중첩 또는 양자 얽힘과 같은 양자역학적 성질을 사용하는 알고리즘이다. 즉 큐비트의 데이터를 양자회로로 연산, 중첩 상태의 큐비트를 최종 측정하여 결과를 구하는 방식이다.
양자컴퓨팅 기술은 고차원의 데이터를 기존 컴퓨터와 비교할 수 없는 수준으로 고속 연산을 할 수 있다. 특히 적은 수의 큐비트임에도 불구, 기존 인공지능 알고리즘을 바탕으로 QML 알고리즘을 개발, 다양한 분야에 활용하려는 움직임이 활발하다.
날리 갈수록 데이터의 양이 증가하는 가운데, 이에 대응하기 위해 이처럼 기존의 인공지능 알고리즘을 양자 회로에서 구현, 계산과 정확도를 높이는 연구가 활발하다. 즉 고전 컴퓨터의 머신러닝(ML)을 결합한 양자머신러닝(QML) 알고리즘이 그 중심 의제가 되고 있다.
가장 유명한 양자알고리즘 중 하나는 소인수분해를 위한 쇼어 알고리즘이다. 이는 인터넷 통신 보안에 많이 사용되고 있는 현재로선 최첨단이라고 할 RSA와 같은 공개키 암호 알고리즘을 거뜬히 해독할 수 있는 것으로 알려져 있다. RSA는 데이터를 암호화할 뿐 아니라, 전자서명도 가능한 기술이다. 그럼에도 현재의 어떤 알고리즘보다 계산이 빠른 쇼어 알고리즘의 경우, 이를 어렵잖게 풀어헤칠 수 있는 것이다.
양자 알고리즘엔 비정형의 데이터베이스나, 미처 정렬되지 않은 목록을 검색하는 그로버 검색 알고리즘도 있다. 이는 현재의 최첨단 알고리즘인 ‘순차 검색 알고리즘’보다 제곱(X²) 배의 속도로 더 빠르다.
또한 기존의 이산 푸리에 변환(DFT)을 양자컴퓨터를 통해 수행하는 양자 푸리에 변환(QFT) 알고리즘이 있다. DFT는 일정 간격의 신호 표본에서 주파수 스펙트럼 표본을 구하는 방법으로 디지털 신호를 분석하는 등의 목적으로 활용된다. 양자컴퓨터로 DFT를 시도한 QFT는 기존의 고속 푸리에 변환(FFT)보다 엄청나게 빠른 계산을 할 수 있다.
기존 ‘비트’ 연산과 차원이 다른 다양한 양자게이트
한국인터넷진흥원 등에 의하면 QML 기반의 이같은 양자알고리즘은 크게 6가지로 구분된다. 양자데이터(Q)를 양자알고리즘(Q)으로 연산하는 ‘순수한 양자알고리즘(QQ)’을 비롯, 고전데이터(C)를 양자알고리즘(Q)으로 연산하는 ‘CQ’, 양자데이터를 고전적 알고리즘으로 연산하는 ‘QC’, 고전 데이터를 고전 알고리즘으로 연산하는 ‘CC’ 등이 있다.
이같은 QML 기반의 양자알고리즘은 큐비트의 데이터를 양자회로로 연산, 중첩 상태의 큐비트를 최종 측정해 결과를 구하는 방식이다. 양자알고리즘은 기존 ‘1, 0’ 비트에 의한 ‘AND’, ‘OR’과는 완전히 다른 큐비트 대상의 다양한 게이트로 연산한다. 여기서 ‘양자 게이트’는 큐비트의 얽힘과 중첩을 다시 조작하고, 상호관계를 만드는 등의 역할을 통해 연산 속도를 높이고, 최적화하는 기능이다.
양자 게이트 과정에서 양자데이터는 브라켓을 이용한 벡터 행렬로 표현한다. 즉 1큐비트는 ‘|0>, |1>’, 그리고 2큐비트는 ‘|00>, |11>’ 등으로 표현할 수 있다.
이 때 양자 게이트 중엔 두 개의 큐비트 X, Y에 대해 입력값(예; |0>, |1>의 1 큐비트 데이터)을 받으면 이를 중첩상태로 만들어주는 ‘하다마드’ 게이트가 있다. 또한 1개의 큐비트를 대상으로 한 또 다른 방식의 X게이트, 그리고 2개의 큐비트를 서로 ‘얽힘’으로 만드는 CNOT 게이트 등의 연산 방식이 있다.
한편 또 다른 과학자들은 특히 하이브리드 양자신경망(Hybrid Quantum Neural Network: HQNN) 모델을 이용해 각기 다른 종류의 데이터셋에 양자알고리즘을 적용한 결과, 그 정확도가 무려 99.97%와 82.78%에 달했다. 또한 이미지의 특징을 식별하는 능력도 탁월했고, HQNN 모델이 고전 CNN보다 8배 적은 매개변수로도 유사 성능을 달성한다는 결론을 얻어낸 바 있다.
현재 빅테크 중심의 양자 플랫폼들이 여럿 구축되고 있다. 이들은 시뮬레이터나 하드웨어를 통해 연구원이나, 개발자들이 양자시뮬레이션, 양자머신러닝(QML) 알고리즘을 시험할 수 있는 다양한 도구와 라이브러리를 제공하고 있다. 일종의 QaaS(Quantum as-a-Service) 역할을 하는 클라우드 양자컴퓨팅 서비스라고 할 수 있다.
대표적인 플랫폼으로는 IBM의 키스킷(Qiskit), 아마존의 브라켓(Braket), 마이크로소프트의 ‘Q#’, 구글의 ‘Cirq’, D-Wave 시스템의 ‘Leap 서비스’, 리제티사의 ‘Aspen-8’ 등이 있다.