기업 AI 도입이 보편화됐지만 데이터 인프라가 이를 뒷받침하지 못해 프로젝트 지연과 취소가 속출하고 있는 것으로 나타났다. 클라우데라는 전 세계 기업 아키텍트, 클라우드 인프라 담당자, 데이터 아키텍트 1500명을 대상으로 진행한 설문 결과를 담은 ‘AI 아키텍처 대전환(The Great AI Re-Architecture)’ 보고서를 발표했다. 조사는 미국, 캐나다, 브라질, 남아프리카공화국, 스페인, 영국, 싱가포르, 인도, 일본 등 9개국을 대상으로 진행됐으며, 한국은 이번 조사 대상에 포함되지 않았다.
AI는 확산됐는데 인프라가 못 버틴다
응답자의 77%가 이미 AI를 활용하고 있다고 답했지만, 95%는 거버넌스·컴플라이언스·규제 문제로 AI 프로젝트가 지연되거나 취소된 경험이 있다고 밝혔다. 이 중 55%는 지난 12개월간 이런 이유로 6건 이상의 AI 프로젝트가 지연·취소됐다고 답했다. AI 도입으로 데이터 저장 및 아키텍처 운영 방식이 바뀌었다는 응답은 75%에 달했고, AI 워크로드로 인프라 비용이 늘었다는 응답도 84%로 나타났다.
퍼블릭 클라우드 떠나 다시 온프레미스로
지난 1년간 AI 워크로드를 퍼블릭 클라우드에서 프라이빗 혹은 온프레미스 환경으로 이전한 경험이 있다는 응답은 66%였다. 아시아태평양 지역(싱가포르·인도·일본 300명 기준)에서도 63%가 같은 경험을 했다고 답했으며, 이 지역에서는 AI 도입으로 저장·운영 방식이 바뀌었다는 응답이 84%, 구조 대대적 개편이 필요하다는 응답이 68%로 글로벌 평균보다 높게 나타났다. 응답자의 97%는 한 달에 한 번 이상 데이터를 다른 환경으로 이동한 경험이 있다고 답해, 데이터 이동이 이미 일상화된 업무로 자리 잡았음을 보여줬다.
향후 AI 수요를 감당하기 위해 데이터 아키텍처의 대대적 개편이 필요하다고 답한 비율은 72%였다. AI로 인해 데이터 거버넌스가 더 복잡해졌다는 응답도 73%로 집계됐다. 세르지오 가고 클라우데라 최고기술책임자(CTO)는 “기존 데이터 분석을 위해 구축한 아키텍처는 현재 AI가 요구하는 확장성과 거버넌스, 유연성을 충족하도록 설계되지 않은 경우가 많다”고 지적했다.
하이브리드 아키텍처로 무게중심 이동
향후 2년간 하이브리드 우선 아키텍처를 최우선 전략으로 추진하겠다는 응답은 25%로, 개별 전략 항목 중 가장 높은 비중을 차지했다. 가고 CTO는 “통제와 보안을 유지하면서 가장 적합한 환경에서 AI를 실행할 수 있는 데이터 기반이 필요하다”고 강조했다. 최승철 클라우데라코리아 지사장은 “규제 산업의 비중이 높고 데이터 주권 요구가 강한 국내 시장에서도 하이브리드 아키텍처와 일관된 거버넌스가 중요하다”며 “기업이 퍼블릭 클라우드와 온프레미스, 엣지를 함께 활용할 수 있어야 한다”고 말했다.
이번 조사 결과는 AI 경쟁력을 가르는 요인이 어떤 모델을 쓰느냐가 아니라 데이터를 어떻게 저장하고 이동시키며 통제하느냐에 있다는 점을 보여준다. 한국이 조사 대상에는 빠졌지만, 규제 산업 비중과 데이터 주권 이슈를 감안하면 글로벌 기업들이 겪는 인프라 재설계 흐름은 국내 업계에도 시사하는 바가 적지 않다.