AI 중심 설계 모바일 네트워크를 구축하는 소프트웨어 기업 Mavenir가 세계 최대 오픈소스 솔루션 기업 Red Hat과 협력해 Red Hat AI를 활용한 대화형 AI(Conversational AI) 및 에이전트형 AI(Agentic AI) 기반 서비스 보증(service assurance) 솔루션을 제공한다고 발표했다.
이러한 통신사급 생성형 AI(Gen AI) 솔루션은 온프레미스 환경에서 운영되는 Red Hat OpenShift AI를 기반으로 하며, 통신 서비스 제공업체에 확장성, 보안성, 안정성, 비용 효율성을 갖춘 네트워크 운영 기반을 제공한다.
AI 에이전트가 통신 내용과 의도를 기반으로 핵심 제어 기능을 수행하는 단계로 발전 / 사진. Mavenir
이번 협력은 통신 사업자가 기존 플랫폼 투자 자산을 활용하면서도 보안성과 안정성을 강화하고, 실시간 네트워크 운영에 필수적인 저지연 환경을 구현할 수 있는 AI 솔루션을 제공함으로써 통신 산업의 혁신을 목표로 하고 있다.
이를 통해 Mavenir는 통신 산업에 특화된 AI 솔루션을 제공하며, 이는 서비스형(hosted as-a-service) AI 솔루션보다 비용 효율성과 보안성이 강화되도록 설계됐다.
Mavenir의 IMS 및 RAN 부문 총괄 EVP 겸 제너럴 매니저인 사친 카르칼라(Sachin Karkala)는 “AI 수익화를 추진하고 자율 네트워크로 전환하는 경쟁 속에서 통신 사업자는 사용자 경험, 비용, 데이터 프라이버시에 대한 통제권을 확보해야 한다.
Red Hat과의 협력을 통해 이러한 요구를 충족하는 온프레미스 AI 솔루션을 개발할 수 있게 됐다. 생성형 AI 모델은 통신 사업자의 데이터를 활용해 맞춤형으로 최적화될 수 있으며, 이를 통해 최적의 성능을 제공하는 온프레미스 에이전트를 구축할 수 있다”고 밝혔다.
대화형 AI의 등장으로 통신 산업은 단순히 개체 간 연결을 제공하는 역할을 넘어 AI 에이전트가 통신 내용과 의도를 기반으로 핵심 제어 기능을 수행하는 단계로 발전하고 있다. 에이전트형 서비스 보증(agentic service assurance)은 기존에 머신러닝 모델에 의존하던 서비스 보증 솔루션에서 한 단계 진화한 개념이다.
에이전트형 시스템은 보다 넓은 관점에서 네트워크 내 다양한 영역과 서로 다른 데이터 소스 간 워크플로를 생성하고 의사결정을 수행할 수 있다. 또한 스스로 학습하고 적응하며, 고객에게 영향을 미치기 전에 문제를 사전에 탐지하고 해결할 수 있는 역량을 갖추고 있다.
배포 준비 단계의 일환으로 Mavenir와 Red Hat은 Dell Technologies의 Open Telecom Ecosystem Lab(OTEL)과 협력했다. OTEL은 Dell PowerEdge R760xa 기반의 첨단 AI 인프라를 갖추고 있으며, 이는 AI, 머신러닝, 딥러닝 학습 및 추론을 포함한 다양한 애플리케이션을 위해 설계된 고성능 공랭식 서버다.
Dell의 OTEL AI 전문가들은 Mavenir 및 Red Hat 엔지니어링 팀과 협력해 대형 언어 모델을 정밀 조정하고, 해당 솔루션이 기반 인프라를 최대한 효율적으로 활용할 수 있도록 최적화했다.
Red Hat OpenShift AI를 활용해 이러한 솔루션을 온프레미스 환경에 배포함으로써 통신 사업자는 GPU 자원의 효율성을 최적화하고 보안 및 거버넌스 요건에 대한 완전한 통제권을 유지하며, 복잡한 AI 라이프사이클을 보다 쉽게 관리할 수 있다.
Red Hat 글로벌 통신 파트너 생태계 부문 부사장인 오노레 라부르데트(Honoré LaBourdette)는 “엔터프라이즈 AI가 개념 검증(PoC) 단계에서 실제 운영 단계로 전환되기 위해서는 가드레일(guardrails), 관측성(observability), 강력한 라이프사이클 관리와 같은 필수 요소를 갖춘 검증된 기반이 필요하다.
Red Hat OpenShift AI는 이러한 기반을 제공하고 있다. Mavenir와의 협력을 통해 Kueue와 Dynamic Accelerator Slicer(DAS)와 같은 도구를 활용해 멀티 테넌트 환경에서 자원을 공유하고, 고가의 GPU 하드웨어 활용도를 최적화함으로써 비용 효율적인 GPU 운영을 실현하고 있다.
또한 vLLM을 활용한 저지연 모델 서비스는 AI 음성 번역과 같은 실시간 애플리케이션이 시장이 요구하는 안정적인 성능을 달성하도록 지원하며, 온프레미스 모델의 실질적인 가치를 입증하고 있다. 이는 Red Hat AI 기술을 활용한 Mavenir와의 공동 이니셔티브 시리즈 중 첫 번째 발표에 해당한다”고 밝혔다.
