세계 메모리 다 합쳐도 부족한 계산, 양자컴 104큐비트로 해냈다 [언박싱 연구실]

<30>연세대 최석원 학부생이 연구 주도
'자가 완화' 기술로 양자 오류 극복
학부생이 주도해 국제 논문 발표
배터리 신소재·물리 난제 해결할 '게임 체인저' 등극

택배 상자를 열 때의 설렘, 기억하시나요? 대학 연구실에서는 지금 이 순간에도 우리 삶을 바꿀 놀라운 발견들이 쏟아지고 있습니다. 다만 '논문'이라는 두꺼운 포장지에 쌓여있을 뿐이죠. '언박싱 연구실'에서는 복잡한 수식과 이론 대신, 여러분이 알고 싶은 알맹이만 쏙 골라 담겠습니다. 자, 그럼 상자를 열어볼까요? 오늘 언박싱할 주인공은 바로 이 연구입니다.

양자 컴퓨터의 노이즈를 스스로 보정하는 '자가 완화' 기술을 통해 104큐비트의 방대한 계산을 성공적으로 수행하는 모습을 상징적으로 시각화했다. 불안정한 양자 시스템이 안정을 찾아가며 배터리 신소재 설계 등 실무적인 영역으로 확장되는 '양자 실용성'의 시대를 표현하고 있다. (그래픽=제미나이 생성)

[파이낸셜뉴스] 노이즈가 심해 계산 오류가 잦았던 현재의 양자컴퓨터를 '셀프 보정' 기술로 다스려, 104개의 양자 비트 규모에서도 정확한 물리 현상을 계산해내는 데 성공했다. 일반 슈퍼컴퓨터로는 사실상 구현이 불가능한 방대한 양의 계산을 증명해낸 이번 연구는, 연세대학교 최석원 학부생이 주도해 국제 학술지에 논문을 발표하는 쾌거를 거뒀다.

■학부생의 도전… 세계적 박사들과 공동연구

이번 성과는 연세대학교 물리학과 최석원 학생이 학내 양자컴퓨팅 동아리(QIYA) 활동을 통해 쌓은 실력을 바탕으로 일궈낸 결실이다. 특히 미국 브룩헤이븐 국립연구소의 유광민 박사, 캔자스대학교의 탈랄 아메드 초두리 박사 등 세계적인 연구진과 어깨를 나란히 하며 국제 공동연구를 주도했다. 연구 결과는 SCI급 국제 학술지인 '피지카 스크립타(Physica Scripta)'에 게재되며 그 가치를 인정받았다.

■양자컴 시대 앞당기나

이번 연구는 양자컴퓨터가 단순히 이론적인 단계를 넘어, 실제로 복잡한 문제를 풀 수 있는 '실질적인 활용 단계(Quantum Utility)'에 진입했음을 선언한 것과 같다. 지금까지의 양자컴퓨터는 미세한 온도 변화나 주변의 전자기파 같은 외부 방해 신호(노이즈)에 너무나 민감해 조금만 계산이 길어져도 틀린 답을 내놓기 일쑤였다.

하지만 이번 기술을 적용하면 차세대 고효율 배터리용 신소재 설계나 현대 과학의 난제인 물리 법칙 가상 실험(시뮬레이션)에 양자컴퓨터를 즉시 투입할 수 있다. 우리가 꿈꾸던 '양자 기술의 시대'가 예상보다 훨씬 빨리 우리 곁으로 다가오게 된 셈이다.

■호수의 물결처럼 퍼지는 에너지 관찰

연구팀이 들여다본 현상은 '양자 퀀치 동역학'이다. 잔잔하게 멈춰 있던 양자 시스템에 갑자기 강한 충격을 준 뒤, 그 시스템이 다시 안정을 찾아가는 과정을 시간의 흐름에 따라 추적하는 것이다. 마치 호수에 돌을 던졌을 때 물결이 어떻게 퍼져나가는지 살피는 것과 같다.

연구팀은 연세대에 구축된 IBM의 127큐비트 양자컴퓨터를 이용해 '자석의 성질을 지닌 물질'을 모델로 한 '하이젠베르크 스핀 사슬' 안에서 에너지가 어떻게 퍼지는지를 관찰했다. 이 실험을 일반 컴퓨터로 구현하려면 전 세계 모든 메모리를 합쳐도 불가능한 용량인 무려 256 퀘타바이트의 메모리가 필요할 만큼 방대한 계산이었다.

■양자컴 오류 줄인 새로운 방식

가장 빛나는 성과는 '자가 완화(Self-Mitigation)'라는 새로운 오류 완화 기법이다. 기존의 방식(ZNE)은 오류를 일부러 늘려본 뒤 나중에 정답을 추측하는 식이라 시간이 오래 걸렸다. 반면 '자가 완화'는 마치 비디오를 거꾸로 돌려보듯 계산 과정을 반대로 수행하는 '테스트 회로'를 실행해, 현재 발생한 노이즈가 어느 정도인지 정확히 파악하고 이를 결과값에서 빼주는 방식이다.

사격 선수가 총을 쏘기 전 바람을 읽고 조준점을 수정하듯 스스로 노이즈를 보정하는 이 기술 덕분에, 기존 방식보다 오류를 최대 48%까지 더 줄이며 104개의 양자 비트 시스템에서도 정확한 결과를 얻을 수 있었다.

실험 규모는 압도적이었다.

연구팀은 연산 단계를 3000번 넘게 거치면서도 오류 없는 데이터를 얻어냈다. 또한 양자 정보가 서로 얼마나 끈끈하게 연결되어 있는지를 나타내는 '양자 얽힘' 수치를 '랜덤 측정'이라는 효율적인 방법으로 측정해 이론값과 완벽하게 일치시켰다.

학부생의 도전 정신이 만든 이 결과는, 완벽한 양자컴퓨터가 나오기 전이라도 우리가 가진 기술을 지혜롭게 다듬는다면 충분히 세상을 바꿀 과학적 발견을 할 수 있음을 전 세계에 증명해냈다.

[e-mail] 김만기 기자