기술 블로그 (Tech) | kt cloud

Tech-Frontier.md kt cloud$ whoami --team❯ kt cloud Cloud플랫폼팀 정성훈 님 📋 요약TL;DR이 글에서는 물리 서버 기반 Kubernetes 클러스터에서Cluster API와 BYOH Provider를 활용한 In-place Upgrade 구현과 검증 과정을 다룹니다.제한된 인프라 환경에서 업그레이드 전략을 선택하고 운영 안정성을 높이는 방향을 정리합니다.#Kubernetes #ClusterAPI #InPlaceUpgrade #BYOHProvider #BareMetalKubernetesKubernetes 클러스터는 한 번 설치하고 끝나는 시스템이 아닙니다. 운영을 시작하면 노드 증설, 버전 업그레이드, 장애 복구, 설정 표준화 같은 작업이 반복됩니다. 클러스터..

[ kt cloud Foundation플랫폼팀 서준호 님 ] 📋 요약 이 글에서는 Kubernetes 기반 Fault-Tolerant GPU 클러스터의 안정적 운영과 유지 관리 방안을 다룹니다.대규모 AI 인프라에서 장애 대응과 성능 저하 예방이 운영 신뢰성에 미치는 의미를 정리합니다.#Kubernetes #GPU클러스터 #FaultTolerance #Slurm #InfiniBand 생성형 AI와 대규모 언어 모델(LLM) 시대에 고성능 연산에 대한 수요는 일시적인 급증을 넘어, 이제는 거대하고 지속적인 워크로드로 변화했습니다. 수십억 개의 파라미터를 가진 모델을 학습시키는 것은 단순히 계산 능력을 겨루는 일이 아닌, 인프라를 안정적으로 운영하는 레이스와 같습니다. 수천 개의 GPU를 ..