SKT, 'AI 클라우드 매니저' 출시…"고객사 GPU 성능 극대화"

(서울=뉴스1) 양새롬 기자 = SK텔레콤(017670)은 인공지능(AI) 인프라 자원을 최적화하고 AI 개발 환경을 통합 관리할 수 있는 B2B(기업간거래) 설루션 'SKT 엔터프라이즈 AI 클라우드 매니저'를 출시했다고 8일 밝혔다.

AI 클라우드 매니저는 SK텔레콤이 보유한 대규모 GPU(그래픽처리장치) 자원 관련 관리 및 운영 노하우를 상용화한 제품이다.

이를 통해 기업 고객이 보유한 GPU 자원을 마치 한 대의 컴퓨터처럼 관리해 GPU 성능을 극대화하고, AI 개발을 위한 학습 소요 시간을 단축할 수 있다는 게 SK텔레콤 설명이다.

예를 들면 프로젝트마다 GPU 사용량과 성능을 실시간으로 모니터링해 사용하지 않는 GPU를 감지, 다른 프로젝트에 재분배하는 식이다.

AI 모델 학습 과정에서는 대규모 데이터를 다수의 컴퓨터에 분산 처리하는 병렬 학습 환경을 제공해 학습 속도를 높인다.

또 특정 소프트웨어를 설치할 필요 없이 '웹 브라우저(Web UI)' 기반으로 사용할 수 있고, 다수의 개발자가 동시에 같은 AI 개발 프로젝트에 접근할 수 있는 협업 환경도 마련했다.

모델 추론 과정에서는 프로젝트나 비용에 최적화된 GPU 종류와 추론 엔진 조합을 고객이 선택할 수 있도록 제공한다. 또 검색 증강 생성(RAG) 기술을 도입해 과거 자료를 최신 정보처럼 인식해 제공하는 '환각 현상(할루시네이션)'을 최소화했다.

SK텔레콤은 지난 달 하나금융티아이와 협업해 대규모 GPU 클러스터를 구축했다. 이번 프로젝트에서 하나금융티아이는 AI 클라우드 매니저를 활용해 하나금융그룹이 AI 기술 수요에 안정적이고 유연하게 대응할 수 있는 환경을 구축했다고 SK텔레콤은 소개했다.

flyhighrom@news1.kr