기술 블로그 (Tech) | kt cloud

[kt cloud AI플랫폼팀 최지우 님]  NPU로 sLM 서빙하기: 새로운 가능성 탐구 AI 기술이 발전함에 따라, AI 모델의 효율적인 배포와 운영을 위한 새로운 처리 장치도 개발되고 있습니다. 이 과정에서 NPU(Neural Processing Unit)라는 새로운 주자가 등장했습니다. NPU는 인공 신경망 연산을 위해 특별히 설계된 프로세서로, 기존의 GPU(Graphics Processing Unit)와는 다른 방식으로 AI 워크로드를 처리합니다.NPU는 대규모 병렬 처리를 가능하게 하며, 특히 신경망 연산에 최적화되어 있습니다. 이로 인해 NPU는 적은 전력으로 높은 성능을 낼 수 있습니다. AI 모델의 학습과 추론 과정에서 NPU는 더욱 효율적인 데이터 흐름과 메모리 관리로 성능을 크게 향..

[kt cloud AI플랫폼팀 최지우 님]    AMD MI250 GPU로 vLLM 최적화하기 최근 대규모 언어 모델(LLM)의 발전과 함께 인공지능 연구 및 상용화 과정에서 GPU의 수요가 급격히 증가하고 있습니다. 특히, NVIDIA는 이 분야에서 시장을 주도하며 AI 연산에 필수적인 GPU 기술을 제공하고 있지만, 수요에 비해 공급이 부족하고 가격이 높아지는 문제가 발생하고 있습니다. 이러한 상황에서 많은 기업과 연구 기관들은 더 경제적이면서도 성능이 뛰어난 대안을 모색하고 있습니다.그 중 하나가 vLLM 프로젝트입니다. vLLM은 LLM 추론 및 제공을 위한 빠르고 사용하기 쉬운 라이브러리입니다. PagedAttention을 이용하여 Key-Value(KV) Cache가 저장되는 메모리를 blo..

최근 AI가 모든 산업에 적용되면서 AI 모델은 점차 대형화되고 있고, 그로 인해 대규모 데이터 분석을 가능하게 하는 GPU 컴퓨팅 시장이 성장하고 있습니다. 기업은 머신러닝 및 딥러닝을 위한 GPU 수요가 증가하고 있지만, 설치비용, 운영비용, 주문&설치기간 등을 고려할 때 Cloud를 활용하여 GPU를 사용할 수 있는 GPUaaS(GPU-as-a Service) 활용이 증가하고 있는데요. 세계적으로 Cloud 전환이 가속화되고, 비디오 편집, 그래픽 디자인, 이미지 처리 등 고성능 컴퓨팅에 대한 수요가 증가함에 따라 GPUaaS 기술의 시장 전망은 2025년까지 연평균 38% 성장하여 약 71억 달러 규모로 성장할 것으로 예상됩니다. 이처럼 GPUaaS 시장 전망을 보면 AI 기술은 매년 꾸준히 발달..

KT Cloud봇 소개 배경 AI 기술의 발달로 챗봇 시장이 확대 되고, VOC를 효율적으로 처리하고자 하는 사업자의 Needs가 있습니다. 또한, 코로나 사태로 인해 비대면 서비스가 확대되면서 챗봇 서비스에 대한 수요가 증가하고 있는데요. KT Cloud 고객의 궁금증에 대해 빠르고 편리하게 안내하고, Cloud 고객센터는 단순VOC 처리를 자동화하여 효율적으로 고객을 응대할 수 있는 KT Cloud 챗봇을 소개하고자 합니다! KT Cloud 챗봇, "클라우드톡"이란? KT는 Cloud 고객의 궁금증을 바로 해결해 줄 수 있는 챗봇, “클라우드톡”을 1월 28일에 오픈 했습니다. KT 클라우드 포탈 (https://cloud.kt.com) 에서 클라우드톡을 만나볼 수 있으며, KT Cloud 서비스의 ..

GPU란 무엇일까? 1부 GPU는 보통 게임할 때 많이 쓰이는 것으로 알고 계실 텐데요, 그러다 보니 비싼 장비, 혹은 비싼 카드 정도로 알고 계신 분들이 많습니다. 하지만 GPU는 4차 산업혁명과 함께 AI나 가상화폐 채굴 등 여러분의 일상생활을 바꿀 필수 핵심 장비로 탈바꿈 중이랍니다. 과연 GPU는 어떤 구조와 특성을 가지고 있기에 여러 분야에서 쓰일까요? GPU란? GPU의 정의부터 알아봅시다! GPU는 Graphic Processing Unit(그래픽 처리 장치)의 약어로, 그래픽 처리, 특히 3D 모델링을 위한 프로세서로 탄생하였습니다. 1990년대 중반까지만해도 3D 그래픽은 주로 CPU로 구현하였으나, 게임 등의 수요가 높아짐에 따라 더 빠르고 실시간 그래픽 처리가 필요했습니다. 1999년..

"AI 서비스를 개발, 배포, 업무에 적용할 수 있도록 지원하는 End-to-End AI 통합 개발 플랫폼" AI Studio는 기존 오픈소스 기반의 AI 개발에서 요구되는 많은 작업을 쉽고 빠르게 수행할 수 있는 툴과 학습체계를 지원합니다. 또한, AI 개발-학습-배포-업무 적용까지 모든 과정을 하나의 플랫폼에서 통합적으로 제공하여 기업의 AI 서비스 개발 Lifecycle을 효율적으로 운영할 수 있습니다.