AI와 양자컴퓨터, 지금 할 수 있는 것과 아직 못 하는 것: 양자 우위 실험, 양자 머신러닝, 오류 정정의 현재

한눈에 보기
• 양자 우위 실험은 특정 샘플링 과제에 한정됩니다: 구글·중국과학기술대의 실험은 AI 학습과 무관한 무작위 샘플링 과제였고, 고전 알고리즘이 계속 격차를 좁혀 왔습니다.
• 양자 머신러닝의 이점은 아직 '가능성' 단계입니다: 양자 상태를 특성 공간으로 쓰는 방법이 제안·시연됐지만, 논문 스스로 이를 양자 우위로 가는 '가능한 경로'라고 표현합니다.
• 현재의 대표 전략은 하이브리드 루프입니다: 양자컴퓨터가 비용 함수를 추정하고 고전 최적화기가 파라미터를 갱신하는 변분 양자 알고리즘(VQA)이 꼽히지만, 훈련 가능성·정확도·효율성 과제가 남아 있습니다.
• 큐비트가 늘수록 학습이 어려워질 수 있습니다: 무작위로 초기화한 회로에서는 기울기가 사실상 0이 되는 '바렌 고원'이 큐비트 수에 따라 지수적으로 심해집니다.
• 대규모 연산의 전제는 오류 정정입니다: 논리 큐비트 실험이 진행 중이며, 각국은 양자 연구 투자와 양자 내성 암호 표준화를 함께 추진하고 있습니다.

1. 출발점: AI의 전력 수요와 양자컴퓨터에 대한 기대

AI가 커질수록 계산에 드는 전기도 늘어납니다. 국제에너지기구(IEA)에 따르면 데이터센터는 2024년 세계 전력 소비의 약 1.5%인 415테라와트시(TWh)를 사용했고, 2030년에는 약 945TWh로 두 배 넘게 늘어날 전망입니다. IEA는 이 증가의 가장 큰 요인으로 AI를 꼽습니다.

이런 흐름 속에서 "양자컴퓨터가 AI의 한계를 풀어줄 것"이라는 기대가 자주 등장합니다. 그러나 물리학자 존 프레스킬은 NISQ(잡음이 있는 중간 규모 양자) 기술을 다룬 2018년 논문에서 게이트의 잡음이 안정적으로 실행할 수 있는 회로의 크기를 제한하며, 100큐비트급 양자컴퓨터가 "당장 세상을 바꾸지는 않을 것"이라고 적었습니다. 이 글은 기대 대신 논문과 공식 발표가 실제로 보여준 것을 따라갑니다.

2. 양자 우위 실험이 실제로 보여준 것

2019년 구글 연구진은 Nature(Arute 외)에 53큐비트 초전도 프로세서 시카모어(Sycamore)가 무작위 양자 회로 하나를 100만 번 샘플링하는 데 약 200초가 걸렸다고 발표했습니다. 같은 작업을 최첨단 고전 슈퍼컴퓨터로 하면 약 1만 년이 걸릴 것이라는 게 당시 벤치마크였고, 연구진은 이를 "이 특정 계산 과제에 대한" 양자 우위의 실험적 실현이라고 표현했습니다. 논문은 동시에 시뮬레이션 방법이 꾸준히 발전해 왔다며, 여기서 보고한 것보다 낮은 시뮬레이션 비용이 결국 달성될 것으로 예상한다고 적었습니다. 다만 더 큰 양자 프로세서의 하드웨어 개선이 그 속도를 계속 앞설 것이라는 전망도 함께 밝혔습니다.

반론은 곧 나왔습니다. IBM 연구진은 arXiv:1910.09534에서 보조 저장장치를 활용하면 오크리지 국립연구소의 슈퍼컴퓨터 서밋(Summit)으로 이런 회로를 높은 충실도로 며칠 안에 시뮬레이션할 수 있다고 분석했습니다. 이후 Pan·Chen·Zhang은 arXiv:2111.03011에서 53큐비트·20사이클 시카모어 회로의 상관없는 샘플 100만 개를 512개 GPU 클러스터로 약 15시간 만에 생성했다고 보고했습니다. 목표 충실도는 약 0.0037이었습니다.

중국과학기술대(USTC) 연구진도 비슷한 실험을 이어갔습니다. 초전도 프로세서 조충지(祖沖之) 2.1은 66큐비트를 갖췄고, 60큐비트·24사이클 규모의 무작위 회로 샘플링을 약 4.2시간에 수행했습니다. 연구진은 같은 작업을 고전적으로 시뮬레이션하면 약 4.8×10⁴년이 걸린다고 추정했습니다(Zhu 외, arXiv:2109.03494). 이 논문의 초록은 "계속 개선되는 고전 알고리즘과 하드웨어와의 경쟁을 견디려면" 양자 하드웨어를 업그레이드해야 한다는 문장으로 시작합니다. 같은 연구 그룹의 광양자컴퓨터 구장(九章)은 가우시안 보손 샘플링 실험에서 최대 76개의 출력 광자 검출 신호를 관측했습니다(Zhong 외, arXiv:2012.01625).

정리하면 이 실험들은 특정 샘플링 과제에서 양자 장치와 고전 계산 사이의 경쟁을 보여준 것이지, AI 모델을 더 빨리 학습시킨 결과가 아닙니다.

3. 양자 머신러닝은 무엇을 하려는가

양자 머신러닝의 대표적인 출발점은 2019년 Nature에 실린 Havlíček 연구진의 논문(arXiv:1804.11326)입니다. 연구진은 서포트 벡터 머신(SVM) 같은 커널 방법이 널리 쓰이지만, 특성 공간이 커지고 커널 함수를 계산하는 비용이 커지면 한계가 생긴다고 지적합니다. 그리고 양자 알고리즘이 속도 향상을 얻는 핵심은 얽힘과 간섭을 통제해 지수적으로 큰 양자 상태 공간을 활용하는 데 있다고 설명합니다.

이 논문은 초전도 프로세서에서 두 가지 방법을 제안하고 시연했습니다. 하나는 변분 양자 회로로 훈련 데이터를 분류하는 '양자 변분 분류기'이고, 다른 하나는 양자컴퓨터로 커널 함수를 추정한 뒤 그 값으로 분류기를 최적화하는 '양자 커널 추정기'입니다. 두 방법 모두 양자 상태 공간을 분류 문제의 특성 공간으로 씁니다.

중요한 것은 표현의 수위입니다. 논문은 양자컴퓨터에서만 효율적으로 접근할 수 있는 특성 공간이 양자 우위로 가는 "가능한 경로"를 제공한다고 썼습니다. 논문이 제시한 것은 확립된 이점이 아니라, 앞으로 검증해야 할 방향입니다.

4. 현재의 대표 전략: 변분 양자 알고리즘(VQA)

Nature Reviews Physics에 실린 Cerezo 연구진의 리뷰(2021, arXiv:2012.09265)는 현재 상황을 이렇게 요약합니다. 복잡한 양자계 시뮬레이션이나 대규모 선형대수 문제는 고전 컴퓨터에 매우 어렵고 양자컴퓨터가 해법을 약속하지만, 오류 허용 양자컴퓨터는 가까운 미래에 나오기 어렵습니다. 지금의 장치는 큐비트 수가 적고, 잡음이 실행할 수 있는 회로의 깊이를 제한합니다.

이 제약에 대응하는 대표 전략이 변분 양자 알고리즘(VQA)입니다. 매개변수가 있는 양자 회로를 고전 최적화기로 훈련하는 방식으로, 양자 장치가 비용 함수를 추정하면 고전 컴퓨터가 그 값을 받아 회로의 파라미터를 갱신합니다. 기울기도 양자 하드웨어에서 회로를 추가로 실행해 구하는 '파라미터 시프트 규칙'으로 추정할 수 있습니다. 즉 흔히 말하는 "양자컴퓨터가 계산하고 GPU가 역전파를 돌린다"는 그림과는 구조가 다릅니다. 분자의 바닥 상태 에너지를 구하는 VQE, 조합 최적화 문제의 근사해를 찾는 QAOA가 이 틀에 속합니다.

리뷰는 VQA가 양자 우위를 얻을 "최선의 희망"으로 보인다면서도, 훈련 가능성·정확도·효율성이라는 과제가 남아 있다고 명시합니다.

5. 학습을 막는 벽: 바렌 고원

훈련 가능성 문제의 대표 사례가 '바렌 고원(barren plateau)'입니다. Nature Communications에 실린 McClean 연구진의 논문(2018, arXiv:1803.11173)은 매개변수 양자 회로의 초깃값으로 무작위 회로가 흔히 제안되지만, 힐베르트 공간의 지수적인 차원과 기울기 추정의 복잡도 때문에 몇 큐비트를 넘는 하이브리드 알고리즘에는 적합하지 않다고 보였습니다.

구체적으로, 넓은 범위의 매개변수 양자 회로에서 기울기가 일정 정밀도로 0이 아닐 확률이 큐비트 수에 대해 지수적으로 작아진다는 것입니다. 연구진은 이를 무작위 회로의 2-design 성질과 연결하고, 해결책을 연구해야 한다고 결론지었습니다. 큐비트를 늘리는 것만으로 학습이 좋아지지 않으며, 오히려 초기화와 회로 구조를 신중히 설계하지 않으면 학습 자체가 막힐 수 있다는 뜻입니다.

6. 하드웨어: 세 갈래와 공개된 수치

초전도 방식은 구글 시카모어와 IBM이 쓰는 방식입니다. IBM의 하드웨어·로드맵 페이지에 따르면 IBM 양자컴퓨터에는 133큐비트 헤론 r1, 156큐비트 헤론 r2·r3, 120큐비트 나이트호크가 있고, 헤론 계열은 조정 가능한 커플러를 갖췄습니다. IBM은 퀀텀 시스템 투(System Two)를 자사의 주력 시스템이자 '양자 중심 슈퍼컴퓨팅'의 핵심으로 소개합니다.

이온 트랩 방식은 전자기력으로 이온을 붙잡아 큐비트로 씁니다. IonQ의 기술 소개 페이지는 이온을 환경에서 격리해 잡음과 결맞음 손실을 줄이고, 큐비트가 물리적 배선으로 연결되지 않아 모든 큐비트가 서로 직접 상호작용할 수 있다고 설명합니다. 퀀티넘은 2024년 4월 16일 상용 시스템 H1-1의 모든 큐비트 쌍에서 2큐비트 게이트 충실도 99.914(3)%를 달성했다고 발표했습니다. 둘 다 기업의 자체 발표라는 점은 감안해야 합니다.

중성 원자 방식은 전하가 없는 원자를 배열해 큐비트로 씁니다. Nature에 실린 Bluvstein 연구진(하버드 등)의 논문(2023년 12월 온라인 게재)은 재배열 가능한 중성 원자 배열에서 최대 280개의 물리 큐비트로 작동하는 논리 큐비트 기반 프로세서를 보고했습니다. 표면 부호 거리를 3에서 7로 늘려 2큐비트 논리 게이트를 개선했고, 논리 GHZ 상태를 오류 허용 방식으로 만들었으며, 최대 48개의 논리 큐비트로 샘플링 회로를 구현했습니다.

7. 오류 정정, 그리고 화학 시뮬레이션에 대한 기대

Bluvstein 연구진은 논문 첫 문장에서 오류 억제가 유용한 양자 컴퓨팅의 핵심 과제이며, 대규모 연산에는 양자 오류 정정이 필요하다고 적었습니다. 정보를 여러 물리 큐비트에 나눠 담는 '논리 큐비트'는 오버헤드가 커서 대규모 논리 양자 컴퓨팅에 상당한 도전이 된다는 설명도 덧붙였습니다. 앞서 본 Cerezo 리뷰가 오류 허용 양자컴퓨터를 가까운 미래의 일로 보지 않은 것과 같은 맥락입니다.

양자컴퓨터의 '킬러 애플리케이션'으로 자주 거론되는 분야가 분자·재료 화학입니다. 그러나 Lee 연구진의 분석(arXiv:2208.02199)은 양자화학에서 가장 흔한 과제인 바닥 상태 에너지 추정을 대상으로 증거를 모은 결과, 화학 공간 전반에서 지수적 양자 우위의 증거는 아직 발견되지 않았다고 결론지었습니다. 양자컴퓨터가 양자화학에 여전히 유용할 수는 있지만, 이 문제에서 지수적 속도 향상이 일반적으로 가능하다고 가정하지 않는 편이 신중하다는 것이 저자들의 입장입니다.

8. 각국과 기관은 무엇을 하고 있나

양자 내성 암호. 미국 국립표준기술연구소(NIST)는 2024년 8월 13일 양자컴퓨터의 공격을 견디도록 설계한 암호 표준 3종을 확정해 발표했습니다. 키 캡슐화용 FIPS 203(ML-KEM), 전자서명용 FIPS 204(ML-DSA)와 FIPS 205(SLH-DSA)로, NIST의 양자 내성 암호 표준화 프로젝트에서 처음 완성된 표준입니다.

미국. 국가양자이니셔티브(NQI)는 2018년 국가양자이니셔티브법으로 출범했고, 이후 2022 회계연도 국방수권법(NDAA)과 2022년 반도체과학법(CHIPS and Science Act)으로 개정됐습니다. 연방 기관들이 수행하며 14개 국가 양자정보과학(QIS) 연구센터와 양자산업 컨소시엄이 포함됩니다.

유럽연합. 퀀텀 테크놀로지 플래그십은 2016년 '퀀텀 매니페스토'에 이어 2018년 출범했으며, 10년간 EU 예산 약 10억 유로(예상)로 양자 컴퓨팅·양자 시뮬레이션·양자 통신·양자 센싱 및 계측을 지원합니다. 초기 단계의 대표 프로젝트로 초전도 회로 기반의 OpenSuperQ와 이온 트랩 시스템 AQTION이 소개돼 있습니다.

일본. 이화학연구소(RIKEN)는 후지쯔 등과 협력해 만든 64큐비트 초전도 양자컴퓨터를 2023년 3월 말 연구자용 클라우드로 공개했습니다(RIKEN). 같은 해 10월 5일부터는 RIKEN과 후지쯔가 새로 개발한 64큐비트 양자컴퓨터와 후지쯔의 40큐비트 양자 시뮬레이터를 결합한 하이브리드 플랫폼을 공동연구 기업·기관에 제공하고 있습니다(RIKEN).

한국. 과학기술정보통신부는 2023년 6월 27일 정부 차원의 첫 '양자과학기술 전략'을 발표하며 2035년까지 3조 원 규모를 투자해 선도국 대비 기술 수준 85%를 달성하고, 핵심인력 2,500명 양성, 세계 양자산업 점유율 10%, 양자기업 1,200개 육성을 목표로 제시했습니다(대한민국 정책브리핑). 한국표준과학연구원(KRISS)은 2024년 개발한 20큐비트 양자컴퓨팅 시스템을 클라우드 서비스로 산업계 등에 제공할 예정이며, 50큐비트 시스템 개발 계획도 발표했습니다.

9. 정리: 대체가 아니라 검증의 시간

"양자컴퓨터가 AI를 바꾼다"는 문장을 원문에 비춰 보면 세 가지로 나뉩니다. 첫째, 양자 우위 실험은 실재하지만 특정 샘플링 과제에 한정되며 고전 계산과의 경쟁이 계속되고 있습니다. 둘째, 양자 머신러닝은 흥미로운 방법을 제안했지만 실용적 이점은 아직 '가능한 경로'로 남아 있고, 바렌 고원 같은 훈련 문제가 확인됐습니다. 셋째, 대규모 연산에 필요한 오류 정정은 논리 큐비트 실험이 진행 중인 단계입니다.

그래서 지금 의미 있는 질문은 "언제 GPU를 대체하느냐"가 아니라 "어떤 문제에서, 어떤 조건으로 고전 방법보다 나은지를 누가 검증했느냐"입니다. 새로운 발표를 볼 때 과제가 무엇이었는지, 비교 대상인 고전 방법이 최신이었는지, 수치가 논문인지 기업 발표인지를 확인하면 과장과 진전을 구분할 수 있습니다.

출처 및 참고자료

• IEA — Energy and AI: Executive summary (2025) (접근일: 2026-09-14)
• arXiv / Quantum — Preskill, Quantum Computing in the NISQ era and beyond (2018) (접근일: 2026-09-14)
• Nature — Arute et al., Quantum supremacy using a programmable superconducting processor (Nature 574, 2019) (접근일: 2026-09-14)
• arXiv — Pednault et al. (IBM), Leveraging Secondary Storage to Simulate Deep 54-qubit Sycamore Circuits (2019) (접근일: 2026-09-14)
• arXiv — Pan, Chen & Zhang, Solving the sampling problem of the Sycamore quantum circuits (2021) (접근일: 2026-09-14)
• arXiv / Science Bulletin — Zhu et al. (USTC), Quantum Computational Advantage via 60-Qubit 24-Cycle Random Circuit Sampling (Zuchongzhi 2.1) (접근일: 2026-09-14)
• arXiv / Science — Zhong et al. (USTC), Quantum computational advantage using photons (Jiuzhang, 2020) (접근일: 2026-09-14)
• Nature — Havlíček et al., Supervised learning with quantum-enhanced feature spaces (Nature 567, 2019) (접근일: 2026-09-14)
• Nature Reviews Physics — Cerezo et al., Variational quantum algorithms (2021) (접근일: 2026-09-14)
• Nature Communications — McClean et al., Barren plateaus in quantum neural network training landscapes (2018) (접근일: 2026-09-14)
• IBM — IBM Quantum Computing | Hardware and roadmap (접근일: 2026-09-14)
• IonQ — IonQ | Our Trapped Ion Technology (기업 기술 소개 페이지) (접근일: 2026-09-14)
• Quantinuum — Quantinuum extends its significant lead in quantum computing (2024-04-16, 기업 발표) (접근일: 2026-09-14)
• Nature — Bluvstein et al., Logical quantum processor based on reconfigurable atom arrays (Nature 626, 2024) (접근일: 2026-09-14)
• arXiv / Nature Communications — Lee et al., Is there evidence for exponential quantum advantage in quantum chemistry? (접근일: 2026-09-14)
• NIST — NIST Releases First 3 Finalized Post-Quantum Encryption Standards (2024-08-13) (접근일: 2026-09-14)
• National Quantum Initiative — The National Quantum Initiative (접근일: 2026-09-14)
• European Commission — Quantum Technologies Flagship (접근일: 2026-09-14)
• RIKEN — Japan’s first homemade quantum computer goes online (2023-09-22) (접근일: 2026-09-14)
• RIKEN — RIKEN and Fujitsu develop 64-qubit quantum computer (2023-10-17) (접근일: 2026-09-14)
• 대한민국 정책브리핑 — 2035년까지 양자기술에 3조 쏟는다…“선도국 기술수준 85% 달성” (2023-06-27) (접근일: 2026-09-14)
• 한국표준과학연구원 (KRISS) — 배경훈 과학기술정보통신부 장관, 취임 후 첫 정부출연연구기관 방문지로 KRISS 찾아 (2025-09-05) (접근일: 2026-09-14)