kt cloud ‘HAC’, AI 연구∙개발 대규모 GPU 활용 문턱 낮췄다

▶ ’NIPA 고성능 컴퓨팅 지원사업’에서 서울대, 스캐터랩 등 AI 연구∙개발 기관에 ‘HAC’ 제공
▶ 비즈니스 민첩성, 우수한 경제성, 개발환경 유연성, 인프라 자원 운용 효율성 강점
▶ 대규모 GPU 인프라 지속 확대, ‘AI 풀스택’ 사업자로 초거대 AI 산업 성장 선도 목표

kt cloud(대표이사 윤동식, www.ktcloud.com)는 정보통신산업진흥원(NIPA)이 주관하는 ‘2022년 하반기 초거대 AI 활용 등을 위한 고성능 컴퓨팅 지원 사업’에서 국내 AI 기업, 연구기관 및 대학교에 ‘HAC(Hyperscale AI Computing)’ 서비스를 제공했다고 20일 밝혔다.

금번 사업은 NIPA가 21년부터 연간 240억 규모로 추진한 ‘고성능 컴퓨터 지원사업’의 일환으로, 22년 9월부터 12월까지 국내 초거대 AI 활용∙확산을 촉진하고 AI 생태계 활성화를 위해 추진된 총 78억 규모 사업이다. NIPA는 19일 서울 강남구 코엑스에서 정보통신산업진흥원 및 정부 관계자, kt cloud, KT, 네이버 등의 사업 지원사, AI 챗봇 ‘이루다’ 개발사 스캐터랩 등 사업 참여사 관계자가 참석한 ‘고성능 컴퓨터 지원사업’ 성과 보고회를 성황리에 진행했다.

kt cloud의 HAC는 대규모 GPU 클러스터를 가상화해 AI 연산∙개발 과정에서 필요한 대규모 GPU 자원을 동적으로 할당∙반납하는 독자적인 기술을 바탕으로, 필요할 때 필요한 만큼만 사용하는 종량제 AI 인프라 서비스다. HAC는 대규모 GPU 인프라 자원을 별도의 구축없이 사용할 수 있어 초거대 AI를 연구∙개발하는 대기업은 물론, 독자적으로 대규모 GPU 인프라 구축과 운영이 어려웠던 AI 스타트업과 대학교 및 연구기관에서 보다 쉽게 이용할 수 있다.

HAC는 AI 연구에 필요한 대규모 GPU 자원을 유연하게 확장해 이용할 수 있고, 사용량 기반의 과금 방식으로 ▲비즈니스 민첩성, ▲우수한 경제성, ▲개발환경 맞춤 유연성, ▲인프라 자원 운용 효율성을 제공한다는 것이 강점이다.

AI 연구/개발 기업∙기관은 원할 때 필요한 만큼의 대규모 GPU를 바로 빌려 쓸 수 있어 비즈니스 민첩성을 확보할 수 있고, GPU 할당 기준이 아닌, 연산 실행 시 사용된 시간만큼만 요금이 부과되어 경제성이 우수하다. 동일한 수량의 자원을 30~50% 합리적인 가격으로 이용하거나, 동일한 비용으로 약 2배 이상의 기간까지 연구∙개발 할 수 있는 것이다.

개발자는 GPU 수량을 실시간으로 스케일인∙아웃(Scale-in∙out) 할 수 있어 유연한 개발 환경을 보장받을 수 있다. 또한 서비스 내 내장된 컴파일러가 멀티 GPU 분산 및 최적화 기능을 대행해 모델 프로그래밍간 우수한 호환성으로 개발 및 운용의 부담을 줄여 준다.

금번 사업에 지원한 관계 지향형 AI챗봇 ‘이루다’를 개발한 스캐터랩은 성과 보고회에서 HAC 활용 사례를 발표했다. 그 동안 스캐터랩은 ‘이루다’ 서비스를 위해 초거대 AI 모델 개발과 차원 높은 대화 수준 구현하기 위한 컴퓨팅 자원∙비용, 학습 소요 기간에 대한 부담이 있었다. 이번 기회에 HAC를 이용하면서 초현실적 규모의 컴퓨팅 자원을 활용할 수 있었고, 같은 비용으로 훨씬 짧은 시간 안에 학습을 완료해 서비스를 고도화할 수 있었다고 밝혔다.

kt cloud는 대기업, 스타트업, 연구기관 등 다양한 분야에서 HAC를 활용해 AI 연구∙개발을 할 수 있도록 대규모 GPU Farm 구축을 지속 확대할 방침이다. 경제적이고 효율적인 서비스를 통해 AI 비즈니스 다각화에 앞장서며, 향후 AI 반도체를 직접 개발해 인프라, 하드웨어, 소프트웨어의 경쟁력을 모두 갖춘 AI 풀스택 (full-stack) 사업자로 거듭난다는 목표다.

kt cloud 남충범 Cloud본부장은 “HAC은 AI 연구와 서비스 개발에 반드시 필요했던 대규모 GPU 자원 활용이 쉬워진 반면, 비용 부담은 획기적으로 줄여 초거대 AI 개발 기업 및 연구 기관에 매우 유용한 서비스이다. 향후 지속적인 대규모 인프라 확충과 다양한 분야와의 협업으로 대한민국 초거대 AI 산업 성장을 선도하겠다”고 밝혔다.