IBM 퀀텀 네트워크 참여 기관이 자체 시설에서 나이트호크(Nighthawk) 프로세서를 운영하는 세계 최초 사례가 연세대학교에서 나왔다. 연세대와 IBM은 4일 인천 송도 국제캠퍼스 양자컴퓨팅센터에서 차세대 양자컴퓨팅 플랫폼을 공개했다. 기존 IBM 퀀텀 시스템 원(Quantum System One)의 프로세서를 127큐비트 이글(Eagle)에서 120큐비트 나이트호크로 교체한 것이다.
큐비트는 줄었지만 처리량은 25배
큐비트 수는 127개에서 120개로 줄었다. 그러나 나이트호크로 연세대 양자컴퓨터가 실행할 수 있는 양자회로는 초당 10만 개 이상이며, IBM이 제시한 회로 처리량 기준으로 기존 이글 시스템보다 25배 높다. 이번 업그레이드는 기존 시스템의 핵심 프로세서를 교체해 연산 성능을 높이는 방식으로 이뤄졌고, 나이트호크는 120개 프로그래머블 큐비트와 고속 큐비트 리셋 아키텍처를 기반으로 한다.
양자컴퓨터 성능은 큐비트 수만이 아니라 연산을 정확하고 빠르게 수행하는 능력이 결정한다. 양자컴퓨팅 기술 개발의 무게중심도 큐비트 수 경쟁에서 연산 속도와 정확성으로 옮겨가고 있다. 회로 처리량이 높아지면 연구자는 같은 시간에 더 많은 실험을 진행하고 결과를 빠르게 확보할 수 있다.
제리 차우(Jerry Chow) IBM 펠로우 겸 양자중심슈퍼컴퓨팅 최고기술책임자(CTO)는 “양자 컴퓨팅에서 샘플은 발전을 이끄는 핵심 요소”라고 말했다. 그는 또 “나이트호크 r2를 통해 연세대학교의 양자컴퓨터는 초당 10만 개 이상의 회로를 실행할 수 있으며, 이는 IBM 퀀텀 이글 대비 25배 높은 회로 처리량”이라고 설명했다.
양자 우위 후보 회로를 대상으로 한 초기 테스트에서는 정확도를 유지하면서 실행 속도가 최대 10배 빨라졌다. 7,500개 이상의 게이트로 구성된 회로에서도 관측 가능량을 정확하게 추정하는 기술적 목표를 달성했다.
도입 2년, 바이오 연구와 인재 양성에 활용
연세대는 2024년 IBM 퀀텀 시스템 원을 도입했고, 첫 번째 프로세서 업그레이드까지 약 2년이 걸렸다. 도입 당시에는 국내에 양자컴퓨터를 구축했다는 사실 자체가 주목받았다. 2년이 지난 지금은 같은 인프라의 계산 속도·정확성과 연구·산업 성과로의 연결이 과제다.
연세 바이오-퀀텀 이니셔티브(Yonsei Bio-Quantum Initiative)는 고전-양자 하이브리드 컴퓨팅으로 생물학적 시스템을 연구하는 연세대 연구 프로그램이다. 이 프로그램에서는 미토콘드리아 전자전달계 변이와 리 증후군(Leigh Syndrome)의 연관성을 이해하기 위한 공동 연구를 추진하고 있다.
인재 양성도 이어지고 있다. 새 프로세서는 석·박사 과정 학생들의 연구와 교육에도 활용될 예정이며, IBM도 산업 전문가의 정기 강연 등 기술 지원을 이어간다. 연세대는 양자생태계운영센터, 양자컴퓨팅기술지원센터, 양자컴퓨팅센터를 중심으로 다양한 연구·교육 프로그램을 운영한다.
IBM은 양자 프로세서와 기존 고성능 컴퓨팅을 결합하는 양자중심 슈퍼컴퓨팅 전략을 제시하고 있다. 이번 업그레이드가 바이오 연구, 산업계 기술 검증, 인재 양성으로 이어지며 국내 양자 생태계에 새로운 실험의 기회가 열리고 있다.
정재호 연세대학교 양자사업단장은 “이번 나이트호크 프로세서 도입은 IBM과의 협력을 바탕으로 우리 대학이 세계적 양자 연구 및 산학협력의 핵심 허브로 자리매김하는 중요한 계기”라고 밝혔다. 연세대는 바이오 등 산업계·연구기관과의 협력을 넓히고 차세대 인재를 양성한다는 뜻이다. 국내 연구진과 기업이 최신 양자 인프라를 활용할 수 있는 협력 기반도 확대할 계획이다.