|
◇“2029년까지 수천개 H100 확보예정…기업 문의 쏟아져”
SKT는 작년 12월 30일 가산 AI 데이터센터를 오픈하고, 시범 운영을 마친 뒤 AI 클라우드 서비스인 ‘SKT GPUaaS’를 출시했다고 13일 밝혔다.GPUaaS 서비스는 출시 전부터 대기업을 비롯해 대학, 연구기관 등 100개 이상의 기업의 문의가 쏟아지며 높은 관심을 얻고 있다.
SKT는 ‘AI 인프라 슈퍼 하이웨이’ 구축 전략에 따라 △AI데이터센터 △GPUaaS △에지AI(Edge AI) 등 세가지 축을 중심으로 전국의 AI 인프라를 구축한다는 계획이다. 이를 위해 미국 GPU 클라우드 회사인 람다와 협력해 2029년까지 수천개의 엔비디아 H100을 투입해 기존 데이터선터를 AIDC로 전환할 예정이다. 이를 위해 SKT는 지난해 2월 람다에 2000만달러(약 290억원)를 투자했고, SK브로드밴드와 함께 5년간 3조4000억원을 투입한다고 밝힌 바 있다. 아시아태평양에서 람다 리전이 만들어 진 것은 SKT 가산 AIDC가 최초다.
이번에 오픈한 가산 AIDC는 랙당 전력밀도가 국내 최고 수준인 44kW로 국내 데이터센터 랙 당 평균 전력밀도인 4.8kW의 약 9배에 달하는 등 고밀도 GPU 서버 운영 환경에 최적화된 데이터 코로케이션(위탁관리) 환경을 제공한다. 이는 랙당 15㎾의 전력밀도를 내는 광주 ‘국가AI데이터센터’보다도 3배가 높다. SKT 관계자는 “SK그룹사의 액침냉각, 액체냉각 기술을 바탕으로 GPU 서버 발열을 제어하는 기술이 들어가 있다”고 설명했다.
SKT는 GPUaaS 서비스 론칭을 기념해 다음달까지 정상가 대비 20% 할인된 가격에 제공한다. 또 SKT는 고객사가 퍼블릭(공유향) 클라우드와 상호 연동해 사용할 수 있도록 패키지 상품을 준비했다. 1분기 내 GPU 신제품인 H200도 도입할 예정이다.
엔비디아의 H100은 A100의 차세대 딥러닝 GPU 모델로, 엔비디아의 공식 문서에 따르면 A100 GPU에 비해 추론 성능과 속도가 최대 30배가량 향상된 것이 특징이다. 이에 생성형AI를 활용한 서비스를 제공하는 기업이나 고성능 GPU을 활용한 AI 모델 학습을 하는 기업이나 연구소에 안성맞춤이다. AI 작업량이 많은 고객이라도 단독 서버에 GPU를 손쉽게 추가할 수 있어서 시설비 투자 부담도 덜 수 있다.
|
AI 전문가들은 SKT의 AIDC 구축을 환영하면서도 할 일이 많다는 입장을 밝혔다. 글로벌 빅테크 기업들이 H100 GPU를 수만 개에서 수십만 개씩 확보하는 반면, 국내 AIDC의 역량은 그에 미치지 못한다는 점에서 우려를 표명한 것이다. 유상임 과학기술정보통신부 장관은 지난달 송년 기자간담회에서 “4대 과학기술원에 GPU 보유량을 조사해본 결과 전무한 상황”이라며 “대학과 연구소 등에서 GPU 컴퓨팅 인프라가 부족해 연구를 진행할 수 없는 상황을 벗어나야 한다”고 언급했다. 또한, 그는 “2026년까지 3만 개의 GPU를 확보해야 한다”고 강조했다.
유용균 AI프렌즈학회 대표(한국원자력연구원 AI응용연구실장)는 “SKT AIDC가 H100을 얼마나 확보했는지는 알 수 없지만, 현재는 많은 사용자들이 공유해서 사용하고 있어 실제 사용에는 부족하다”며 “사용자 입장에서는 우리가 확보할 수 있는 GPU 수가 중요한 문제”라고 설명했다. 이어 “공공기관은 보안 등을 이유로 상대적으로 저렴한 외산 클라우드를 사용할 수 없고, 광주 ‘국가AI데이터센터’ 등을 활용해 왔다”며 “SKT가 GPU 컴퓨팅을 가성비 있게 제공한다면 큰 도움이 될 것”이라고 덧붙였다.
다만, 대당 4000만원 정도 하는 H100을 SKT가 들여오는데, 단순 임대만 제공한다면 투자대비 수익률(ROI)이 떨어진다는 지적도 나왔다.
클라우드 업계 관계자는 “아직은 재판매 임대형으로 보인다. AI 솔루션을 서비스하는 등 추가적인 비즈니스 모델로 확장해야 할 것 같다”고 짚었다.