양자컴으로 미래 난제 푼다… 기술 주도하는 'IBM의 두뇌' [AI 르네상스 시대]

(1) 美 왓슨연구소에 가다
별도 공간에서 양자 칩 성능 검증
최근에 공개된 퀀텀 나이트호크
연산 처리 복잡도 30% 끌어올려
양자컴 쓰는 산업군 확대에 맞춰
2029년까지 '오류 내성' 실용화
스스로 교정하는 기능도 심을듯

"양자컴퓨터마다 고유한 소리가 있습니다. 마치 심장박동 같죠." IBM 왓슨연구소에서 45년 넘게 양자 연구를 해온 로버트 샌드스트롬 연구원의 설명이다.

양자 칩은 외부환경 변화에 극도로 민감하다. 미세한 진동이나 열 변화만으로도 연산 오류가 발생할 수 있다. 이를 막기 위해 양자컴퓨터는 영하 273도에 가까운 초저온 환경에서 작동한다. 헬륨을 압축·순환시키며 냉각을 유지하는데, 연구소에 끊임없이 흐르는 기계음은 바로 이 초저온을 유지하기 위한 냉각 과정에서 발생한다.

미국 뉴욕주 요크타운하이츠에 위치한 IBM 토머스 왓슨 연구소의 '양자 특성화 연구실'. 이곳은 IBM이 만든 모든 양자시스템을 실험하는 곳이다. 사진=이병철 기자

■양자연구실 'Aisle 36'

이곳은 뉴욕 맨해튼에서 북쪽으로 약 74㎞ 떨어진 뉴욕주 요크타운하이츠에 위치한 IBM 토머스 왓슨 연구소의 '양자 특성화 연구실'이다. 내부에서는 '36번 통로(Aisle 36)'로 불린다. IBM 양자컴퓨터의 핵심 부품인 큐비트 성능을 검증하는 공간으로, 전 세계로 출하되는 모든 IBM 양자 칩은 반드시 이곳을 거친다.

샌드스트롬 연구원은 "전 세계 연구소와 기업, 대학으로 공급되는 모든 IBM 양자 칩은 이곳에서 테스트를 마친다"며 "최근 공개된 '퀀텀 나이트호크(IBM Quantum Nighthawk)' 역시 이곳에서 성능검증을 받았다"고 말했다. 지난 11월 연세대학교에 설치된 IBM 양자 시스템 원도 같은 과정을 거쳐 한국으로 보내졌다.

지난 9일(현지시간) 기자는 한국 언론 최초로 출시 직후의 나이트호크 테스트 장면을 직접 확인했다. 나이트호크는 120개의 큐비트를 바둑판 형태로 배열한 양자 프로세서다. 모든 큐비트가 항상 연결돼 있는 방식이 아니라, 필요할 때만 전자식 스위치인 '조정형 커플러'를 통해 인접 큐비트와 연결된다. 불필요한 간섭을 최소화하면서도 복잡한 양자 연산을 정밀하게 수행하기 위한 구조다.

이 같은 설계 덕분에 나이트호크의 연결 수는 기존 'IBM 퀀텀 헤론' 대비 20% 이상 증가했다. 처리 가능한 연산 복잡도도 약 30% 향상됐다. 특히 양자 연산의 핵심으로 꼽히는 두 큐비트 연산을 최대 5000번까지 연속 수행할 수 있다는 점은 기술적 진전으로 평가된다.

양자컴퓨터는 기존 슈퍼컴퓨터로는 해결하기 어려운 난제를 풀 수 있는 잠재력을 가진 기술이다. 고전적 컴퓨터가 0과 1의 비트를 순차적으로 계산하는 반면, 양자컴퓨터는 0과 1이 동시에 존재하는 '중첩 상태'의 큐비트를 활용해 병렬적.확률적 연산을 수행한다. 큐비트 수가 늘어날수록 연산능력은 기하급수적으로 증가한다.

IBM은 양자 분야에서 가장 앞서 있는 기업 중 하나로 평가받는다. 2001년 세계 최초로 5큐비트 양자컴퓨터 실험에 성공했고, 2016년에는 클라우드 기반 양자컴퓨터를 공개하며 접근성을 넓혔다. 2019년에는 범용 양자 시스템 '퀀텀 시스템 원(Q System One)'을 선보였다. 현재 전 세계 85곳에 IBM 양자 시스템이 설치돼 있다.

스콧 크라우더 IBM 양자전략부문 부사장

스콧 크라우더 IBM 양자전략부문 부사장은 "설치된 시스템 수와 이를 활용한 연구논문 수를 보면 IBM이 시장을 주도하고 있다는 사실이 명확하다"고 말했다. 양자컴퓨터 활용 분야는 신약·배터리 개발, 항공·자동차 산업, 금융 모델링 등으로 확대되고 있다. 크라우더 부사장은 "재료·화학·금융 분야가 가장 먼저 양자우위를 달성할 가능성이 크다"며 "HSBC는 양자 기반 금융모델을 연구하고 있고, 모더나의 코로나19 백신 개발에도 양자 컴퓨팅이 활용됐다"고 설명했다.

IBM은 2029년까지 오류를 스스로 교정하는 '오류 내성(Fault-tolerant)' 양자컴퓨터 실용화를 목표로 하고 있다. 열과 진동 등 외부 자극에 취약한 양자컴퓨터의 구조적 한계를 극복하겠다는 구상이다.

■"기업이 실제로 쓰는 AI"

IBM은 인공지능(AI) 전략 역시 '기업이 실제로 사용하는 AI'에 초점을 맞추고 있다. △AI 인프라 △AI 플랫폼 △데이터·거버넌스 △AI 소프트웨어·에이전트 등 네 가지 기술 축이다. 스리람 라가반 IBM 리서치 AI 부사장은 "IBM은 엔비디아와 같은 범용 그래픽처리장치(GPU) 경쟁을 하지 않는다"며 "자사 시스템에 최적화된 전용 AI 하드웨어와 기업 데이터 기반 AI에 집중하고 있다"고 밝혔다.

AI 플랫폼 '왓슨X'는 주요 클라우드뿐 아니라 기업 내부 서버에서도 동일하게 작동하도록 설계됐다.

IBM은 오픈소스 기반 모델군 '그래나이트(Granite)'를 통해 기업 맞춤형 AI 활용을 확대하고 있다. IBM의 AI 사업 규모는 이미 95억달러(약 13조원)에 달한다.

라가반 부사장은 "AI 경쟁의 본질은 모델 크기가 아니라 비즈니스 가치"라고 강조했다.

[e-mail]