SK텔레콤, 엔비디아 GPU H100 기반 ‘SKT GPUaaS’ 출시

가산 AI 데이터센터 오픈…AI 인프라 시장 공략 가속

강동식 기자

lavita@datanews.co.kr | 2025.01.13 15:06:52

▲SK브로드밴드 가산 IDC에 구축된 AI 데이터센터(AIDC) 모습 / 사진=SK텔레콤

SK텔레콤이 인공지능(AI)의 동맥이자 2025년 핵심 성장동력인 ‘AI 인프라’ 시장 공략에 본격적으로 나섰다.

SK텔레콤(대표 유영상)은 지난달 30일 가산 AI 데이터센터(AIDC)를 오픈하고 시범 운영을 마친 뒤 AI 클라우드 서비스인 ‘SKT GPUaaS(GPU-as-a-Service)’를 출시했다고 밝혔다.

SK텔레콤은 ‘SK AI 서밋 2024’에서 ‘AI 인프라 슈퍼 하이웨이’ 구축전략을 발표한 이래 연말 조직개편에서 ‘AI DC 사업부’를 별도 조직으로 신설하고, GPUaaS를 새롭게 출시하는 등 AI 인프라 사업 본격화에 속도를 내고 있다.

가산 AIDC는 랙당 전력밀도가 국내 최고 수준인 44kW로 국내 데이터센터 랙 당 평균 전력밀도인 4.8kW의 약 9배에 달하는 등 고밀도 GPU 서버 운영 환경에 최적화된 데이터 코로케이션 환경을 제공한다.

SKT GPUaaS는 미국 람다와 1여년간 준비한 구독형 AI 클라우드다. 이를 위해 가산 AIDC에 람다의 한국 리전을 유치했다. 이는 아태 지역에 처음 생기는 람다의 리전이다.

SK텔레콤은 지난해 2월 AIDC 사업 본격 추진을 위한 첫 번째 글로벌 행보로 글로벌 GPU 클라우드 회사인 람다에 투자를 진행했다.

2012년 AI 엔지니어들이 설립한 람다는 글로벌 빅테크 기업들을 대상으로 AI 클라우드 서비스를 제공하는 GPUaaS 기업으로, SK텔레콤은 람다와의 협력을 통해 그래픽 처리장치(GPU)의 안정적 확보를 기반으로 AI 클라우드 시장 공략에 본격 나설 계획이다.

이번 출시하는 GPUaaS는 엔비디아 GPU H100을 기반으로 한다. H100은 현재 국내에 도입된 GPU 중 가장 성능이 좋다.

SKT GPUaaS 구독을 원하는 기업 고객은 AI 서비스 규모나 목적에 따라 GPU 수량과 기간을 선택하고, 단독 서버·방화벽·전용회선 등 맞춤형 패키지를 구성할 수 있다.

고객사는 독자적인 GPU를 사용해 안정적 AI 학습과 추론을 시행할 수 있으며, 방화벽과 전용회선을 활용할 경우 보안성 역시 크게 강화할 수 있다. 또 고객의 AI 작업량이 급격히 늘어나더라도 단독 서버에 GPU를 손쉽게 추가할 수 있어 추가 시설 투자에 대한 부담을 크게 덜 수 있다.

또 SKT GPUaaS는 퍼블릭(공유형) 클라우드와 상호 연동이 가능하다. 기업 고객이 기존에 사용하던 클라우드를 그대로 활용하면서 SK텔레콤의 GPU 컴퓨팅 파워를 이용할 수 있다.

GPUaaS와 SK텔레콤의 ‘AI 클라우드 매니저’를 함께 활용하면 GPU 자원을 보다 효율적으로 관리할 수 있다. AI 클라우드 매니저는 수많은 GPU 자원을 한 대의 컴퓨터처럼 관리해 GPU 성능을 극대화하고, AI 개발을 위한 학습 소요시간을 단축하도록 지원한다.

SKT GPUaaS 가격은 약정 기간, GPU 개수, 선불형의 과금 형태에 따라 탄력적으로 책정해 고객 편의를 강화했다. 예를 들어 고객이 24개월 동안 32개의 GPU를 원할 경우 이에 맞는 가격을 설정하는 방식이다. 1개월, 2개월 등 단기 서비스 이용도 가능하다.

SK텔레콤은 1분기에 최신 GPU인 H200도 도입할 예정이다. 국내 최초로 H200을 도입함으로써 국내 기업들이 보다 빠르게 AI 기술·서비스를 개발할 수 있는 환경을 조성하고, GPUaaS 고객 확대에도 박차를 가할 계획이다.

김명국 SK텔레콤 GPUaaS사업본부장은 “이번 GPUaaS 출시는 AIDC 사업이 고객에게 다가가는 첫 번째 사례로, SK텔레콤이 AI 인프라 핵심 사업자로 자리매김하는데 의미가 크다”며, “국가 AI 경쟁력을 높이는 GPU 팜(Farm)으로 구축하겠다”고 말했다.

강동식 기자 lavita@datanews.co.kr