오류율 최저, 연산 가속...‘양자 컴퓨팅’ 기술 크게 ‘도약’

복잡 연산 위한 IBM 퀀텀 ‘룬’ 칩 대량 생산, “근거리·장거리 전환” 2큐비트 게이트, 99.99% 이상의 사상 최저 오류율 구현 연산 필요 큐비트 파악, 게이트를 ‘클러스터화’하는 기술도

2025-11-13     전윤미 기자
양자컴퓨팅 이미지. (출처=언스플래쉬)

[애플경제 전윤미 기자] 금년 한 해도 연말이 가까워지는 시점에 특히 눈에 띄는 양자컴퓨팅 기술들이 잇따라 공개되었다. 특히 기술 시연부터 양자 하드웨어가 진정한 우위를 점하는 기술, 초기 성공 이후 상용화를 향한 성과 등에서 양자 컴퓨팅 기술은 한층 속도를 내고 있다.

그 중 IBM은 퀀텀 룬(Loon) 칩을 대량 생산하기 시작했다. IBM은 앞서 지난 6월 양자 연산에서 오류를 최소화하고 효율을 높일 수 있는 양자 칩 ‘나이트호크(Nighthawk)’와 ‘룬(Loon)’을 발표한 있다. 이들 칩은 각기 다른 방식으로 큐비트(qubit)를 연결, 한층 복잡한 계산을 수행할 수 있다. 그 중 ‘룬’ 칩을 대량생산할 수 있게 된 것이다.

또 영국의 옥스포드 아이오닉스(Oxford Ionics)라는 회사는 전자기장을 조작해 큐비트를 이동시킬 뿐 아니라, 이를 통해 연산까지 해낼 수 있는 방법을 알아냈다. 또한 엔비디아와 퀀텀 아트는 하드웨어 연산을 위한 더욱 효율적인 컴파일러를 함께 개발하는데 성공한 것으로 전해졌다.

IBM, 지난 6월 이어 다시 큰 기술 발전

IBM은 지난 6월에 이어 이번엔 “연초에 발표했던 두 가지 프로세서를 이미 개발했다”고 공식 발표했다. 여기에는 IBM이 오류 수정 논리 큐비트를 호스팅하는 데 사용할 아키텍처에 초점을 맞춘 ‘룬’이라는 프로세서가 포함되었다. ‘룬’은 IBM에 두 가지 주요 변화를 가져옵니다. 근거리 연결로의 전환과, 장거리 연결 기능이다.

IBM은 앞서 ‘헤비 헥스’(heavy hex)라는 아키텍처를 사용해 왔다. 이는 큐비트가 2개 또는 3개인 큐비트를 번갈아 연결하며 겹쳐지는 육각형 구조를 형성한다. ‘룬’에선 각 큐비트가 가장 가까운 4개의 이웃 큐비트와 연결된 정사각형 격자를 사용한다. 이같은 높은 연결 밀도는 계산 중에 큐비트를 더욱 효율적으로 사용할 수 있도록 한다.

‘룬’의 큐비트는 또한 장거리를 연결할 수 있다. 이는 특정 유형의 오류 수정에 필요한 기능이다. 즉, 사용자가 미리 중요한 기능을 테스트할 수 있도록 하기 위한 것이다.

지난 6월 발표한 또 다른 프로세서인 나이트호크는 ‘현재’에 초점을 맞춘다. 최근접 거리 연결과 정사각형 격자 구조를 갖추고 있지만, 장거리 연결 기능은 없다. 나이트호크는 오류율을 낮추는데 중점을 뒀다. 그래서 기존 알고리즘보다 뛰어난 계산인 ‘양자 우위’를 위한 알고리즘 테스트를 할 수 있게 한다.

또한 커뮤니티가 기존 알고리즘이나 양자 알고리즘의 코드나 성능 데이터를 저장할 수 있는 깃허브 저장소를 출시했다. 이를 통해 상대적 성능에 대한 엄격한 평가도 가능하다. 이가타은 알고리즘은 검증 가능한 양자 우위를 입증할 가능성이 가장 높은. 3가지 범주의 알고리즘으로 분류된다.

앞서 IBM은 지난 6월 “논리적 큐비트의 오류를 식별하고 수정하는 데 필요한 알고리즘”을 소개했다. 그 후 10월 말, 다시 “AMD와 협력해 제작한 FPGA에서 이 알고리즘을 실행할 경우 실시간으로 작동할 수 있음을 확인했다”고 밝혔다. 이번 ‘룬’ 큐비트는 이를 좀더 발전시킨 성과로 받아들여지고 있다.

포획이온 전문 ‘IonQ’, ‘이온 냉각 시간 단축, 사상 최저 오류율’

‘옥스포드 아이오닉스’도 “포획된 이온(trapped-ion)을 사용, 일부 큐비트 연산에서 역대 최저 오류율을 달성했다”고 발표한 바 있다. 포획된 이온 양자 컴퓨터는 흔히 전자기장을 조작하여 큐비트를 이동시키긴 하지만, 연산을 위해선 레이저를 사용한다. 그러나 이 회사는 “전자기장을 사용해 연산을 수행하는 방법을 알아냈고, 이는 회로를 정밀하게 제작하는 기술에 의해 더 많은 처리 능력을 확보한 결과”라고 설명했다. 다만 큐비트 판독과 같은 작업에는 여전히 레이저가 필요하다고 밝혔다.

그러나 이 회사는 최근 포획 이온 분야의 경쟁사인 ‘IonQ’에 인수되었다. IonQ는 ‘아즈 테크니카’에 “옥스포드 아이오닉스의 성과를 바탕으로 2큐비트 게이트에 대해 사상 최저 오류율인 99.99% 이상의 충실도를 달성했다”고 발표했다. 하드웨어 큐비트의 오류율이 낮다는 것은 오류 정정 큐비트에서 좋은 성능을 얻는 데 필요한 큐비트 수가 줄어든다는 것을 의미한다. 이는 양자 컴퓨팅 기술에서 매우 중요한 의미가 될 수 있다는 평가다.

양자컴퓨팅 사진. (출처=IBM)

다만 ‘퀀타매거진’ 등에 의하면 2 큐비트 게이트는 ‘오류율’보다 더 눈길을 끄는 대목이 있다. 즉 이온 냉각 시간을 줄이고, 더 많은 작업을 할 수 있는 기술을 개발한 것이다.

흔히 2큐비트 게이트 기술은 관련된 2 큐비트를 가까이 접근시켜야 한다. 이를 위해 시스템에 약간의 에너지를 공급해 이온 온도를 높이고 오류 발생 가능성을 약간 높이곤 한다. 이온을 이동시킨 후에는 이를 냉각시키기 위해 레이저를 사용, 큐비트에서 에너지를 다시 빼낸다. 이처럼 두 가지의 별도 냉각 단계를 거치다보니 속도가 너무 느리다. 운영 시간 대부분을 이동시킨 이온이 냉각될 때까지 하드웨어를 대기상태에 둘 수 밖에 없다.

그러나 ‘IonQ’는 이온을 완전히 냉각할 필요 없이 2 큐비트 게이트를 실행하는 기술을 개발했다. 두 냉각 단계 중 하나를 완전히 건너뛸 수 있다. “전체 기계는 여전히 매우 차가운 가운데, 약간 높은 온도에서 이온과 함께 작동해 두 번의 냉각 단계 중 하나를 완전히 생략할 수 있다”는 설명이다. 결국 이를 통해 작동 시간이 단축될 뿐 아니라, “양자 시스템의 결맞음 한계에 도달하기 전에 더 많은 작업을 수행할 수 있다”는 설명이다.

엔비디아-퀀텀 아트, ‘멀티코어 컴퓨팅’

엔비디아와 포획 이온 전문 ‘퀀텀 아트’(Quantum Art)로부터 나온 또 다른 최첨단 기술도 눈길을 끈다. 이보다 앞서 퀀텀 아트는 엔비디아와의 협력을 통해 “본사 하드웨어 연산을 위한 더욱 효율적인 컴파일러를 개발했다”고 발표했다. 이는 그 자체보단, 포획 이온 연산의 효율성을 높이기 위한 기술의 가능성을 크게 넓힌 것으로 해석된다.

엔비디아 GPU의 연산 능력은 알고리즘의 초기 테스트를 수행할 수 있도록 하는, 일종의 양자 프로세서의 소규모 모델링이다. 또 퀀텀 아트는 GPU를 컴파일러 체인의 일부로 사용, 특정 양자 하드웨어에서 효율적인 알고리즘 실행 방법을 찾기 위한 연산을 수행할 수 있게 된다.

오류 수정 기술도 크게 끌어올리고 있다. 오류 수정은 소수의 하드웨어 큐비트를 간접적으로 측정, 더 큰 큐비트 집합(논리 큐비트) 가운데 가장 가능성 있는 상태를 파악하는 것이 핵심이다. 이를 위해서는 양자 시스템을 실시간으로 모델링해야 한다. 그러나 이는 매우 어려운 작업이다. 엔비디아는 이런 어려움을 해소하는데 주력하고 있다. 그런 과정에서 양사는 하드웨어를 함께 활용할 수 있도록 파트너십을 맺었다.

퀀텀 아트의 기술은 다소 이례적이란 평가다. 기존 이온 기업들은 모두 ‘같은 목표를 향해 나아가는 서로 다른 경로’를 택하고 있다. 즉, 1~2개의 이온을 연산이 가능한 위치로 이동시킨 후, 1~2개의 큐비트 게이트를 실행하는 것이다. 그러나 퀀텀 아트는 훨씬 더 많은 이온 집합으로 게이트를 실행한다. 특정 연산이 필요한 큐비트를 파악하고, 이를 클러스터화함으로써 한 번에 모두 실행하는 것과도 같다.

클러스터를 생성하기 위해선 많은 큐비트를 이동시켜야 한다. 그러나 퀀텀 아트는 레이저를 사용, 이온을 일렬로 ‘고정’한 후, 오른쪽과 왼쪽 이온을 분리했다. 각 클러스터는 개별적으로 연산될 수 있다. 그러면 연산 사이에 핀을 새로운 위치로 이동, 다음 연산을 위한 다른 클러스터를 만들 수 있다. 이때 각 이온 클러스터를 ‘코어’라고 부르며, 이를 ‘멀티코어 양자 컴퓨팅’으로 표현한다.

퀀텀 아트는 “큐비트 수와 시연에서 아직은 경쟁사들에 비해 뒤처져 있다”면서도 “수많은 개별 연산을 수행하고, 수많은 이온을 이동시키는 복잡성을 통해 경쟁사들을 따라잡을 것”이라고 자신했다.