[K2P&HAC] 초거대 AI 활용을 위한 Hyperscale AI Computing과 Container 서비스

최근 AI가 모든 산업에 적용되면서 AI 모델은 점차 대형화되고 있고,
그로 인해 대규모 데이터 분석을 가능하게 하는
GPU 컴퓨팅 시장이 성장하고 있습니다.

기업은 머신러닝 및 딥러닝을 위한 GPU 수요가 증가하고 있지만, 
설치비용, 운영비용, 주문&설치기간 등을 고려할 때
Cloud를 활용하여 GPU를 사용할 수 있는
GPUaaS(GPU-as-a Service) 활용이 증가하고 있는데요.

 

세계적으로 Cloud 전환이 가속화되고, 비디오 편집, 그래픽 디자인, 
이미지 처리 등 고성능 컴퓨팅에 대한 수요가 증가함에 따라
GPUaaS 기술의 시장 전망은 2025년까지 연평균 38% 성장하여
약 71억 달러 규모로 성장할 것으로 예상됩니다.

이처럼 GPUaaS 시장 전망을 보면 AI 기술은
매년 꾸준히 발달하고 있다는 것을 알 수 있는데요.

그로 인해 기업이 활용하는 AI가 학습할 대상의 매개변수 양이
폭발적으로 증가하고 있다는 것을 알 수 있습니다.

 

이에 따라 AI를 활용하는 기업들에게는
대규모 연산이 가능한 GPU 인프라를 활용하여
대용량의 연산이 가능한 초거대 AI를 활용할 수 있는
Hyperscale AI Computing 기술이 요구되고 있습니다.

이렇게 AI를 사용함에 있어 기업들이 필요로 하는
Hyperscale AI Computing 서비스를
kt cloud의 HAC 서비스를 활용하여 사용할 수 있는데요.

 

kt cloud의 HAC 서비스는 독자적인 SW 기술을 기반으로
대규모의 GPU Cluster를 가상화하여 사용자가 연산을 실행할 때
Cluster 내의 GPU 자원을 on-demand 할당하는 서비스입니다.

 

가상화 기술을 통해 대규모 클러스터링을 지원하는 동시에
GPU가 실행된 시간 동안만 요금을 부과하는 완전한 종량제 서비스로,
합리적인 비용으로 GPU 자원을 제공하는 최초의 클라우드 서비스로
AI를 활용하는 기업에게는 꼭 필요한 서비스입니다.

 

뿐만 아니라 최근 기존 kt cloud의 컨테이너 상품,
K2P Standard와 HAC 상품을 결합한
Container AI Computing 서비스,

 

K2P & HAC 상품을 새롭게 출시하면서
직접 Kubernetes를 설치하지 않고도 간단히 Container Base의
AI Model 환경을 사용할 수 있게 되었습니다.

 

[K2P&HAC 서비스 구성도]
이 밖에도 K2P&HAC서비스를 사용하게 된다면
운영 측면에서 다양한 장점이 있습니다.

1. 인프라 자원 자동화
kt cloud Server, Loadbalancer, Storage 등의 인프라자원을 자동화하여
Kubernetes 기반의 컨테이너 클러스터를 자동 생성합니다.

HAC 자원을 사용할 수 있는 HAC GPU를
자동으로 Cluster로 편입하여 구성해줍니다.

2. AI 환경 지원
다양한 AI 레퍼런스 모델을 지원하기 위한
Container Base Image를 제공합니다.

Kubernetes 환경에서 HAC GPU 자원을 활용할 수 있도록
최적화된 환경을 제공합니다.

3. 합리적인 비용
GPU가 아닌 Kubernetes Master/Infra Node의 경우
일반 CPU VM으로 최소 자원만 사용할 수 있도록 구성합니다.

또한, GPU 자원 사용은 실 사용한 시간과 사용량 기반으로
요금이 부과되는 완전한 종량제 방식으로 제공하여
합리적인 비용으로 GPU 컴퓨팅 자원을 활용할 수 있습니다.

 

지금까지 kt cloud의 Container 서비스인 K2P상품과
대규모 클러스터링이 가능한 완전 종량제 GPU서비스 HAC상품이 결합된
AI 전용 Container Platform인 ‘K2P&HAC’ 상품에 대한 내용을 살펴보았습니다.

AI가 IT시장에서 가장 주목받는 요즘
K2P&HAC 상품을 통해 고객분들의 AI Computing 여정에 도움이 되었으면 합니다.

현재 K2P&HAC 서비스는 무료 프로모션도 진행하고 있으니,
많은 관심 부탁드립니다.