기술 블로그 (Tech) | kt cloud

[ kt cloud 마케팅커뮤니케이션팀 김지웅 님 ] 📋 요약 이 글에서는 AI 에이전트가 실제 업무를 안전하게 수행하도록 실행 환경을 설계하는 하네스 엔지니어링을 다룹니다.모델 성능만으로 해결하기 어려운 운영 안정성과 책임 범위 설정의 중요성을 정리합니다.#하네스엔지니어링 #AI에이전트 #프롬프트엔지니어링 #컨텍스트엔지니어링 #AI운영안정성 안녕하세요! kt cloud 테크 마케터 김지웅입니다. 🙋‍♂️ AI를 활용하는 방식이 빠르게 바뀌고 있어요. 한동안 AI를 잘 쓰는 핵심은 좋은 프롬프트를 작성하는 것이었죠. 어떤 역할을 줄지, 어떤 형식으로 답하게 할지, 어떤 기준을 지키게 할지 구체적으로 지시하는 것이 중요했습니다. 그런데 최근의 AI 에이전트는 단순히 답변만 생성하지 않아..

[ kt cloud Foundation플랫폼팀 서준호 님 ] 📋 요약 이 글에서는 Kubernetes 기반 Fault-Tolerant GPU 클러스터의 안정적 운영과 유지 관리 방안을 다룹니다.대규모 AI 인프라에서 장애 대응과 성능 저하 예방이 운영 신뢰성에 미치는 의미를 정리합니다.#Kubernetes #GPU클러스터 #FaultTolerance #Slurm #InfiniBand 생성형 AI와 대규모 언어 모델(LLM) 시대에 고성능 연산에 대한 수요는 일시적인 급증을 넘어, 이제는 거대하고 지속적인 워크로드로 변화했습니다. 수십억 개의 파라미터를 가진 모델을 학습시키는 것은 단순히 계산 능력을 겨루는 일이 아닌, 인프라를 안정적으로 운영하는 레이스와 같습니다. 수천 개의 GPU를 ..

[ kt cloud Foundation플랫폼팀 이초환 님 ] 📋 요약 이 글에서는 Git 시크릿 관리 개선과 Kubernetes Secret 오브젝트 제거를 위한 Vault 도입 전략을 다룹니다.시크릿 노출 위험을 줄이고 운영 환경의 보안 기준을 명확히 하는 방향을 정리합니다.#Vault #GitSecret #Kubernetes #CSIProvider #시크릿관리 왜 Sealed Secrets도 SOPS도 아닌 Vault였나 — 도입 배경과 전략요건은 두 가지였다회사에서 시크릿 관리 개선 요청을 받았다. 요건을 정리하니 두 가지로 요약됐다.Git 레포에 평문으로 관리되는 시크릿을 제거할 것Kubernetes 클러스터 위에 Secret 오브젝트로 민감정보가 떠 있는 것을 없앨 것두 번째 ..

[ kt cloud DC동부운용팀 이민재 님 ] 📋 요약 이 글에서는 AI 데이터센터 전력 케이블의 구조, 설계, 시공, 진단과 차세대 기술을 다룹니다.안정적인 전력 공급이 인프라 신뢰도와 운영 관리에 미치는 영향을 정리합니다.#AI데이터센터 #전력케이블 #데이터센터인프라 #HVDC #XLPE 전력 확보 전쟁, 그 중심에 선 케이블최근 '전력 확보 전쟁'이라는 말이 뉴스 헤드라인을 장식하고 있습니다. 생성형 AI의 등장으로 데이터센터의 랙당 전력 밀도가 과거 4~5kW 수준에서 40kW, 심지어 100kW까지 치솟고 있기 때문입니다. 이 거대한 에너지를 발전소에서 변전소를 거쳐, 최종 서버의 PSU(Power Supply Unit)까지 손실 없이 전달하는 것이 바로 케이블의 미션입니다...

[ kt cloud Azure전환팀 변세림 님 ] 📋 요약 이 글에서는 Terraform 모듈 설계 원칙과 표준 구조, 실무 적용 기준을 다룹니다.안정적인 인프라 운영을 위해 모듈 복잡도와 변경 위험을 줄이는 방향을 정리합니다.#Terraform #IaC #Terraform모듈 #HashiCorp #인프라자동화안녕하세요. 🙋1부에서 IaC의 본질을 살펴봤는데요, 이번에는 조금 더 실전적인 이야기를 해볼게요.Terraform을 쓰다 보면 어느 순간 꼭 이런 상황이 생겨요."처음엔 그냥 리소스 파일을 하나씩 만들었는데, 어느 순간 코드가 뒤엉켜서 뭐가 뭔지 모르게 됐다.""모듈을 만들긴 했는데... 팀원이 어떻게 쓰는지 모른다.""모듈 하나 고쳤더니 왜 다른 환경이 망가졌지?" 이런 문제..

[ kt cloud Foundation플랫폼팀 서준호 님 ] 📋 요약 이 글에서는 AI 인프라 비즈니스의 핵심 경쟁력인 GPU 중심 인프라와 풀스택 최적화 전략을 다룹니다.운영 효율성과 비용 경쟁력을 높이는 실질적 방향을 정리합니다.#AI인프라 #GPU #풀스택최적화 #Neoclouds #AI데이터센터 1. Neoclouds 의 탄생Neoclouds의 목적은 단 하나, AI를 위한 최적의 환경을 제공하는 것입니다. 이들은 GPU 중심의 대규모 병렬 연산, 고대역폭 네트워킹, 저지연 스토리지, 고도화된 데이터센터 관리 기능을 갖추어 비용 효율적인 인프라 서비스를 제공합니다. 천편일률적인 옵션을 제시하는 Hyperscalers 와 달리, Neoclouds는 고객의 특수한 요구와 진화하는 ..

안정성은 클라우드의 기본이지만, 그 기본을 끝까지 지키는 일은 결코 단순하지 않습니다. 이번 케클s피드에서는 Multi-AZ 기반 이중화 설계부터 보안 거버넌스, 데이터 보호 전략까지 신뢰받는 플랫폼을 만들기 위한 핵심 요소들을 살펴봅니다. 장애 이후의 복구가 아닌, 장애를 전제로 한 플랫폼 설계 이야기와 보안·데이터 안정성을 위한 3가지 필수 레이어를 통해, kt cloud가 어떻게 안정적인 클라우드를 만들어가고 있는지 확인해 보세요.“장애 발생 이후 ‘복구’하는 것만으로 충분할까?” kt cloud Cloud플랫폼팀 한승진 팀장은 이 질문에서부터 아키텍처 재설계를 시작했습니다. 기존 DR(재해 복구) 방식은 장애 시 서비스 단절이 불가피할 뿐만 아니라, 복구 구조를 설계하는 부담과 상시 대기 비용까지..

[ kt cloud 마케팅커뮤니케이션팀 ] 📋 요약 ‘기술이 장르가 되는 곳, kt cloud의 케클러 인터뷰 시리즈’는 케클러들의 목소리를 통해, 고객의 다음 문제를 먼저 고민하는 kt cloud의 기술적 지향점과 해법을 전합니다.두 번째 호에서는 "장애를 전제로 설계한다"는 관점으로 kt cloud PLATFORM의 *Multi-AZ 아키텍처를 설계한 한승진 팀장의 고민과 엔지니어링 과정을 담았습니다.#ktcloud #ktcloudPLATFORM #MultiAZ #DR #ActiveActive 안녕하세요. kt cloud 마케팅커뮤니케이션팀입니다. 지난 인터뷰 시리즈의 첫 번째 호에서는 차세대 플랫폼 kt cloud PLATFORM을 밑바닥부터 다시 설계해야 했던 배경을 다뤘습니다...

[ kt cloud Container Service팀 박지선 님 ] 📋 요약 이 글에서는 Kubernetes Ingress API의 지원 중단 배경과 Gateway API의 개념 및 활용 방식을 다룹니다.클러스터 트래픽 관리의 표준 변화에 맞춰 운영 안정성과 확장성을 높이는 방향을 정리합니다.#Kubernetes #Ingress #GatewayAPI #NginxGatewayFabric #HTTPRoute 지난 11월, kubernetes는 Ingress NGINX의 기술지원 중단을 발표했고, 이에 대한 대안책으로 Gateway API로 교체해서 사용할 것을 권장했습니다. Ingress NGINX Retirement: What You Need to KnowTo prioritize the ..

[ kt cloud DC북부운용팀 유승철 님 ] 📋 요약 이 글에서는 AI 데이터센터의 전력 변동, 고밀도 발열, 액체 냉각 전환과 운영 방식 변화를 다룹니다.안정적인 AI 인프라 운영을 위해 설계와 관리 기준이 달라져야 함을 정리합니다.#AI데이터센터 #AIDC #GPU #액체냉각 #전력품질 1. 데이터센터의 패러다임 시프트불과 몇 년 전만 해도 데이터센터(Legacy DC)는 '안정적인 서버 호텔'이었습니다. 서버들이 입주하여 24시간 365일 중단 없이 가동되는 것이 지상 과제였습니다. 하지만 생성형 AI(GenAI)의 폭발적인 성장과 함께 데이터센터는 이제 거대한 '초고성능 연산 공장'으로 변모하고 있습니다. 엔비디아(NVIDIA)의 H100, B200과 같은 고성능 GPU가 랙..