국내 산업계 평균 GPU 실가동률이 50~60% 수준에 그치는 상황에서, 새 장비를 늘리기보다 기존 자원의 활용도를 끌어올리는 것이 투자 효율을 높이는 대안으로 제시됐다. AI 전환 인프라 기업 아크릴은 지난 21일 서울 삼성동 코엑스에서 열린 ‘2026 OCP 코리아 테크 데이’에서 AI 데이터센터 투자 효율과 운영 자율성을 높이는 ‘소버린 AX’ 전략과 GPU 클러스터 최적화 플랫폼 ‘GPUBASE’를 공개했다.
서로 다른 가속기, 하나의 자원 풀로
GPUBASE는 엔비디아 A100~B200 GPU, AMD 가속기, 구글 TPU, 리벨리온 ATOM·퓨리오사AI RNGD 등 국산 NPU를 하나의 스케줄러·쿼터·정산 체계로 통합 관리하는 플랫폼이다. 제조사와 세대가 다른 가속기를 단일 자원 풀로 묶어 관리할 수 있다는 점이 특징으로, 기존 서버에 소프트웨어를 설치하는 방식으로 적용이 가능해 하드웨어 추가 구매나 AI 학습 코드 수정 없이 도입할 수 있다.
아크릴은 이날 자체 실증 결과도 함께 공개했다. GPUBASE를 적용한 환경에서 GPU 실효 가동률은 93%, 네트워크 경로 활용률은 98%를 기록했다는 설명이다. 엔비디아 H100 100장 규모 클러스터에 적용할 경우 연간 약 21억 원의 비용 절감이 가능하다는 추정치도 나왔다. 염익준 아크릴 CTO는 “네트워크는 성능인 동시에 비용의 문제”라며 “통신 대기를 줄이면 같은 장비에서 더 많은 GPU가 일하고 그만큼 추가 증설에 필요한 예산을 줄일 수 있다”고 말했다.
국내외 실증 경험과 특허로 뒷받침
아크릴은 GPUBASE 관련 특허 22건을 포함해 누적 83건 이상의 특허를 확보하고 있다고 밝혔다. 실증 무대도 국내외를 아우른다. AWS와 GCP에서는 각각 500장 이상 규모의 GPU 환경에서, 마이크로소프트 애저에서는 200장 이상 규모에서 실증을 진행했다. 지난 7월에는 모듈형 데이터센터 1·2차 공급도 이뤄졌다.
폐쇄망 환경에서의 운영 실적도 눈길을 끈다. 아크릴은 상급종합병원 11곳을 포함한 의료기관 18곳에서 누적 1만 병상 이상 규모의 폐쇄망 환경을 운영한 경험을 갖고 있다고 설명했다. 이 같은 다양한 환경에서의 실증 경험이 국산 NPU를 기존 엔비디아 인프라에 점진적으로 편입시켜 특정 벤더에 대한 종속과 공급망 위험을 분산하는 전략의 근거로 제시됐다.
박외진 아크릴 대표는 “AI 주권은 GPU를 몇 장 확보했느냐보다 인프라와 모델, 운영 전반을 얼마나 효율적으로 통제할 수 있느냐에 달려 있다”며 “세 계층을 연결하는 기술과 실증 데이터를 기반으로 특정 벤더에 종속되지 않는 개방형 소버린 AX 생태계 구축에 기여하겠다”고 말했다. 국내 GPU 실가동률이 절반 수준에 머무는 현실 속에서, 증설이 아닌 운영 효율화가 업계의 새로운 투자 대안으로 떠오르고 있다.