AI 모델 경량화·최적화 기업 노타가 정부의 국가 AI 사업 '모두의 AI'에 SK텔레콤 컨소시엄 일원으로 참여한다. 노타는 이번 컨소시엄에서 AI 모델 인프라 분야, 즉 경량화·최적화 역할을 맡아 서비스 운영 단계의 효율화를 담당하게 됐다. 앞서 '독자 AI 파운데이션 모델(독파모)' 사업에 참여했던 노타는 이번 참여로 모델 개발부터 서비스 운영까지 국가 AI 생태계 전 과정에 관여하게 됐다.
서비스 운영 효율화가 관전 포인트
'모두의 AI'는 과학기술정보통신부와 정보통신산업진흥원이 추진하는 사업으로, 국민 누구나 일상에서 AI를 활용할 수 있도록 공공·생활 서비스에 AI를 적용하고 향후 실행형 AI로 발전시키는 것을 목표로 한다. 여러 AI 모델과 에이전트를 동시에 운영할 경우 연산량과 메모리, 응답속도를 관리해야 하는 필요성이 커지는 만큼, 노타의 역할은 대규모 환경에서 서비스를 안정적으로 운영하는 부분에 초점이 맞춰진다.
노타는 자체 개발한 AI 모델 경량화·최적화 플랫폼 '넷츠프레소(NetsPresso)'를 활용해 모델의 특성과 하드웨어 환경을 분석하고 연산량과 메모리 사용량을 절감한다. 이를 통해 데이터센터, 기업 서버, 엣지 디바이스 등 다양한 인프라 환경에서 AI 모델이 구동될 수 있도록 지원한다는 설명이다.
모델 개발과 서비스 운영은 다른 문제
채명수 노타 대표는 “국가 AI 경쟁력은 우수한 모델 개발을 넘어 국민이 실제 사용하는 서비스를 구현하고 이를 대규모 환경에서도 빠르고 안정적으로 운영하는 역량에서 완성된다”고 말했다. AI 모델을 잘 만드는 것과 이를 실제 서비스로 대규모 환경에서 운영하는 것은 별개의 과제이며, 노타는 이 가운데 후자의 효율화를 담당한다는 취지다.
채 대표는 이어 “'모두의 AI'에서도 모델 개발부터 실제 서비스 운영까지 최적화 역량을 폭넓게 적용해 대한민국이 독자적인 AI 기술과 활용 기반을 갖추는 데 기여하겠다”고 밝혔다. 독파모에 이어 '모두의 AI'까지 이어지는 이번 참여로 노타는 국가 AI 사업의 초기 모델 개발 단계와 이후 서비스 운영 단계를 모두 경험한 기업이 됐다.