최근 AI가 모든 산업에 적용되면서 AI 모델은 점차 대형화되고 있고, 그로 인해 대규모 데이터 분석을 가능하게 하는 GPU 컴퓨팅 시장이 성장하고 있습니다. 기업은 머신러닝 및 딥러닝을 위한 GPU 수요가 증가하고 있지만, 설치비용, 운영비용, 주문&설치기간 등을 고려할 때 Cloud를 활용하여 GPU를 사용할 수 있는 GPUaaS(GPU-as-a Service) 활용이 증가하고 있는데요. 세계적으로 Cloud 전환이 가속화되고, 비디오 편집, 그래픽 디자인, 이미지 처리 등 고성능 컴퓨팅에 대한 수요가 증가함에 따라 GPUaaS 기술의 시장 전망은 2025년까지 연평균 38% 성장하여 약 71억 달러 규모로 성장할 것으로 예상됩니다. 이처럼 GPUaaS 시장 전망을 보면 AI 기술은 매년 꾸준히 발달..

KT Cloud Container 상품은? kt cloud에서 제공하는 Container 상품에는 총 3가지가 있습니다. CaaS, Container, DevOps Suite이 있는데, 그 중에서 Container와 DevOps Suite의 상품 소개 및 이용 방법에 대해서 설명해드리고자 합니다. Containr 상품은 OKD(Origin Community Distribution of kubernetes)를 기반으로 Container Platform를 제공하고 있는 서비스로 Multi Container Platform 수용/관리 할 수 있는 Container Orchestration Tool 입니다. 여기서 OKD란 컨테이너 기반 소프트웨어의 배포 및 관리를 할 수 있는 OpenShift의 오픈 소스 버..

쿠버네티스는 상태를 저장하지 않는 Stateless이므로, 어떠한 문제가 발생하여 컨테이너가 삭제된다면 데이터도 같이 삭제됩니다. 이렇게 될 경우, 로그 파일을 보관해야 한다거나 데이터베이스를 사용할 경우 데이터가 사라지면 큰 장애가 발생할 수 있습니다. 따라서 데이터가 사라지지 않고 보존되어야 할 경우 볼륨(Volume)을 사용합니다. emptyDir, hostPath 먼저 쿠버네티스의 여러 가지 볼륨 중 임시 디스크를 사용하는 emptyDir, 로컬 디스크를 사용하는 hostPath에 대해서 알아보도록 하겠습니다. emptyDir emptyDir은 생성 당시에는 디스크에 아무 내용이 없으므로, emptyDir이라고 합니다. emptyDir은 Pod가 생성될 때 생성되고, Pod가 삭제될 때 같이 삭제..

쿠버네티스의 서비스란? 만들어진 Pod끼리 통신을 하기 위해서는 "서비스"가 필요합니다. 쿠버네티스에서 서비스란 네트워크 서비스로 노출하는 추상화 방법을 의미하는데, Pod를 논리적으로 구분하여 접근하도록 하는 것입니다. 서비스에서는 라벨 셀렉터(Label Selector)를 사용하여, 관리하고자 하는 Pod들을 정의할 수 있습니다. 쿠버네티스가 제공하는 서비스의 종류는 다음과 같습니다. ClusterIP: 기본 서비스 타입으로, 쿠버네티스 클러스터 내부에서 사용 가능하여, 클러스터 내부의 Node나 Pod에서 이 ClusterIP를 이용해서 서비스에 연결된 Pod와 통신 External Name: 서비스를 externalName의 값이랑 매치하여 사용하고, 클러스터 내부에서 외부로 접근할 때 사용 No..

쿠버네티스의 동작 흐름 쿠버네티스에서는 새로운 Pod를 만들기 위한 과정이 다음과 같은 흐름으로 진행됩니다. 출처: https://subicura.com/2019/05/19/kubernetes-basic-1.html 1. Master Node의 kube-apiserver에 Pod 생성을 요청 2. kube-apiserver는 etcd에 새로운 상태를 저장 3. kube-controller-manager에게 kube-apiserver가 etcd의 상태 변경을 확인하여, 새로운 Pod 생성을 요청 4. kube-controller-manager는 새로운 Pod를 생성(no assign)을 kube-apiserver에 전달하고, 이를 전달받은 kube-apiserver는 etcd에 저장 5. kube-sche..