구글, 양자컴퓨팅 핵심 기술 돌파…양자 상태 오류 40배 감소

구글, 양자컴퓨팅 핵심 병목 돌파…’매직 스테이트’ 오류 40배 줄여

구글이 양자컴퓨터 실용화의 핵심 걸림돌로 꼽혀 온 ‘매직 스테이트(magic state)’ 생성 문제에서 중요한 진전을 이뤘다. 구글은 자체 개발한 양자 프로세서 ‘윌로우(Willow)’에서 ‘매직 스테이트 배양(Magic State Cultivation)’ 기술을 구현해, 배양하기 전보다 양자 상태의 오류를 약 40배 줄이는 데 성공했다고 15일(현지시간) 발표했다.

구글은 이를 통해 T 상태의 논리 충실도 99.99%를 달성했다. 1만 번 가운데 오류가 1번 정도에 그친다는 의미로, 이 분야에서 역대 최고 수준이다. 관련 연구 결과는 국제학술지 사이언스(Science)에 게재됐으며, 연구에 참여한 에마 로젠펠드 연구원과 크레이그 기드니 엔지니어가 구글 블로그를 통해 성과를 소개했다.

양자컴퓨터 용량 95% 잡아먹던 매직 스테이트

매직 스테이트는 양자컴퓨터가 기존 컴퓨터로는 할 수 없는 연산까지 수행하는 ‘범용’ 양자 계산에 반드시 필요한 자원이다. 양자 연산 가운데 일부는 기존 컴퓨터로도 효율적으로 흉내 낼 수 있는데, 양자컴퓨터만의 연산 능력을 끌어내려면 ‘T 게이트’와 같은 특수 연산이 필요하고 여기에 매직 스테이트가 쓰인다.

문제는 매직 스테이트가 한 번 쓰면 사라지는 소모성 자원이라는 점이다. 오류가 정정된 고품질 매직 스테이트를 만드는 데에는 막대한 자원이 들어간다. 일부 추정에 따르면 양자컴퓨터 용량의 최대 95%가 매직 스테이트를 만드는 데 쓰여, 실제 계산에 쓸 수 있는 용량은 5% 남짓에 그칠 수 있다. 연구자들은 2004년 무렵부터 이 비용을 줄이기 위한 방법을 찾아왔다.

기존에 주로 연구된 방식은 ‘매직 스테이트 증류’다. 잡음이 섞인 매직 스테이트 여러 개를 모아 더 적은 수의 순수한 상태로 걸러내는 방식으로, 많은 큐비트와 연산 시간이 필요하다. 이번에 구글이 구현한 배양 방식은 칩의 작은 영역에서 하나의 상태를 순수하게 길러내는 방식이어서 필요한 자원을 크게 줄일 수 있다.

구글은 이번 성과가 이 같은 매직 스테이트 생성 문제라는 핵심 병목을 실제 하드웨어에서 처음 해결한 것으로, 실용적인 양자컴퓨터 개발에 한 걸음 더 다가선 중요한 진전이라고 설명했다. 순다르 피차이 구글 최고경영자(CEO)는 “실제 하드웨어에서 처음으로 매직 스테이트 배양을 구현했다”며 “윌로우 프로세서에서 기존 방식보다 오류를 40배 줄였다”고 밝혔다.

주입·여과·성장·이식 4단계로 ‘순수한’ 상태 길러내

매직 스테이트 배양은 구글 연구진인 크레이그 기드니와 노아 셔티, 코디 존스가 2024년 이론으로 제시한 방법이다. 기드니는 지난해 5월 100만 개 미만의 잡음 큐비트로 일주일 안에 2048비트 RSA 암호를 풀 수 있다는 연구 결과를 내놓아 주목받았는데, 이 추정에도 매직 스테이트 배양 기술이 활용됐다.

배양은 잡음이 섞인 상태를 원재료로 삼아 칩의 작은 영역에서 아주 순수한 상태로 길러내는 방식으로, 크게 4단계로 이뤄진다. 먼저 잡음이 섞인 상태를 칩의 작은 영역에 주입한다. 이어 조율된 측정을 반복해 오류를 실시간으로 찾아내고, 결함이 있는 시도는 버린다. 살아남은 상태는 매우 순수한 ‘T 상태’로 정제된다. 마지막으로 배양 과정에 쓰인 ‘컬러 코드’에서 보다 넓은 계산에 쓰이는 ‘표면 코드’로 상태를 옮겨 심는다.

구글은 이번 실험에서 거리 3의 컬러 코드에서 거리 5의 표면 코드로 상태를 옮기는 ‘이식(grafting)’ 프로토콜도 시연했다. 정제된 상태를 하드웨어 안에서 다른 오류 정정 구조로 옮길 수 있다는 점을 보여준 것이다.

코드 거리는 오류 정정 능력을 나타내는 지표로, 숫자가 클수록 더 많은 오류를 바로잡을 수 있다. 양자컴퓨터는 오류가 잦은 물리 큐비트 여러 개를 묶어 하나의 안정적인 ‘논리 큐비트’를 만드는데, 코드 거리가 클수록 더 많은 물리 큐비트가 필요하다.

물리법칙 어긋나 보인 데이터…잡음 원인 찾아 해결

실험 과정은 순탄치 않았다. 연구를 이끈 로젠펠드 연구원은 물리법칙에 어긋나 보이는 데이터를 마주했다. 연구진은 수개월간 원인을 추적한 끝에 성능 측정 방식의 잘못된 가정과 전기 장비의 미세한 변동, 실내 온도 변화 등 실험실 잡음이 겹친 결과라는 점을 밝혀냈다. 연구진은 잡음을 줄이기 위해 하드웨어 제어를 강화하고, 배양 과정 자체를 이용해 정확도를 측정하는 새로운 평가 방식을 개발했다.

더 큰 규모 시연이 다음 과제

구글은 실용화를 위해서는 더 큰 규모의 시연이 필요하다고 덧붙였다. 연구진은 배양 기술을 대규모로 입증해야 하며, 대규모 제조와 시스템 확장 등 기술적 과제도 남아 있다고 밝혔다. 다만 매직 스테이트를 만드는 데 드는 자원을 크게 줄이면 유용한 양자컴퓨터를 만드는 데 필요한 물리적 규모와 큐비트 수도 크게 줄일 수 있다.

윌로우는 구글이 2024년 12월 공개한 105큐비트 양자 칩이다. 당시 구글은 큐비트 수를 늘릴수록 오류가 오히려 줄어드는 ‘임계값 이하’ 오류 정정을 처음 시연했다. 코드 거리를 3에서 5, 7로 키울 때마다 논리 오류율이 절반씩 줄었다. 또 현존 최고 수준의 슈퍼컴퓨터로 10셉틸리언(10의 25제곱)년이 걸리는 계산을 5분 만에 끝냈다고 밝혀 주목받았다.

지난해 10월에는 윌로우로 미국 프런티어 슈퍼컴퓨터보다 1만3,000배 빠르게 계산을 수행하는 ‘퀀텀 에코’ 알고리즘을 시연하기도 했다. 구글의 양자컴퓨팅 연구는 2012년 하르트무트 네벤이 설립한 구글 퀀텀 AI가 이끌고 있다.

IBM도 2029년 오류 내성 양자컴퓨터 목표

경쟁사들도 오류를 정정하는 양자컴퓨터 개발에 속도를 내고 있다. IBM은 지난해 6월 2029년까지 논리 큐비트 200개를 갖춘 오류 내성 양자컴퓨터 ‘스탈링’을 내놓겠다는 계획을 공개했다. 립부 탄 인텔 CEO는 지난 12일 싱가포르에서 열린 콘퍼런스에서 양자컴퓨팅이 3~5년 안에 주류가 될 것이라고 말했다.

양자컴퓨팅 기업 아이온큐는 같은 날 사이버보안 기업 엘리시티를 최대 13억달러에 인수하기로 하는 등 사업 영역을 넓히고 있다. 니콜로 데 마시 아이온큐 CEO는 양자컴퓨터가 현재의 암호 체계를 해독할 수 있게 되는 ‘Q-데이’가 예상보다 훨씬 빨리 다가오고 있다고 말했다. 미국 국립표준기술연구소(NIST)는 이에 대비해 2024년 8월 양자내성암호 표준 3종을 확정했다.