기술 블로그 (Tech) | kt cloud

[ kt cloud 마케팅커뮤니케이션팀 김지웅 님 ] 📋 요약 이 글에서는 RAG 시스템의 검색 고도화와 리랭킹을 활용한 실무형 검색 파이프라인 설계를 다룹니다.정확한 근거 문서 확보가 답변 품질과 운영 안정성을 좌우한다는 점을 정리합니다.#RAG #검색고도화 #하이브리드검색 #리랭킹 #AdaptiveRetrieval 들어가며💭안녕하세요! kt cloud 테크 마케터 김지웅입니다. 🙋‍♂️ 지난 1~4편의 연재를 통해 문서를 벡터로 변환하고 빠르게 찾아내는 RAG의 기반 기술들을 차근차근 살펴봤죠. 그런데 그동안의 이야기에는 한 가지 숨은 전제가 있었어요. 바로 ‘인덱싱과 검색 방식이 한 번 정해지면 변하지 않는다’는 정적인 환경을 가정했다는 점입니다. 하지만 현업에서 직접 AI 서..

[ kt cloud Container Service팀 박지선 님 ] 📋 요약 이 글에서는 Kubernetes Gateway API의 Policy 객체를 활용해 트래픽 동작을 제어하는 방식과 적용 범위를 다룹니다.운영 환경에서 설정 혼선을 줄이고 안정적인 트래픽 관리를 위한 기준을 정리합니다.#Kubernetes #GatewayAPI #Policy #ClientSettingsPolicy #BackendTLSPolicy 1. 개요이전 편에서 Gateway API 사용해서 Gateway와 HTTPRoute로 기본 라우팅을 구성했다면, 이번 편에서는 Policy 객체로 트래픽을 세밀하게 제어하는 방법을 다룹니다. 타임아웃, 세션 유지, 백엔드 TLS 등 기존 Ingress에서 Annotatio..

[ kt cloud Foundation플랫폼팀 이지은 님 ] 📋 요약 이 글에서는 ArgoCD와 FluxCD 기반 GitOps 배포를 HelmRelease 방식으로 전환하는 과정과 운영 시 고려사항을 다룹니다.인프라 배포를 선언적으로 관리해 변경 추적과 운영 안정성을 높이는 방향을 정리합니다.#ArgoCD #FluxCD #GitOps #HelmRelease #Kubernetes 안녕하세요. 지난 글에서 OpenStack Helm 배포를 FluxCD HelmRelease 방식으로 전환한 경험을 공유드렸는데요.이번에는 그 연장선으로 ArgoCD 자체를 동일한 방식으로 전환한 이야기입니다. "배포 도구인 ArgoCD를 ArgoCD+FluxCD로 관리한다"는 다소 순환적으로 들릴 수 있지만, ..

[ kt cloud 마케팅커뮤니케이션팀 김지웅 님 ] 📋 요약 이 글에서는 AI 에이전트가 실제 업무를 안전하게 수행하도록 실행 환경을 설계하는 하네스 엔지니어링을 다룹니다.모델 성능만으로 해결하기 어려운 운영 안정성과 책임 범위 설정의 중요성을 정리합니다.#하네스엔지니어링 #AI에이전트 #프롬프트엔지니어링 #컨텍스트엔지니어링 #AI운영안정성 안녕하세요! kt cloud 테크 마케터 김지웅입니다. 🙋‍♂️ AI를 활용하는 방식이 빠르게 바뀌고 있어요. 한동안 AI를 잘 쓰는 핵심은 좋은 프롬프트를 작성하는 것이었죠. 어떤 역할을 줄지, 어떤 형식으로 답하게 할지, 어떤 기준을 지키게 할지 구체적으로 지시하는 것이 중요했습니다. 그런데 최근의 AI 에이전트는 단순히 답변만 생성하지 않아..

[ kt cloud Foundation플랫폼팀 서준호 님 ] 📋 요약 이 글에서는 Kubernetes 기반 Fault-Tolerant GPU 클러스터의 안정적 운영과 유지 관리 방안을 다룹니다.대규모 AI 인프라에서 장애 대응과 성능 저하 예방이 운영 신뢰성에 미치는 의미를 정리합니다.#Kubernetes #GPU클러스터 #FaultTolerance #Slurm #InfiniBand 생성형 AI와 대규모 언어 모델(LLM) 시대에 고성능 연산에 대한 수요는 일시적인 급증을 넘어, 이제는 거대하고 지속적인 워크로드로 변화했습니다. 수십억 개의 파라미터를 가진 모델을 학습시키는 것은 단순히 계산 능력을 겨루는 일이 아닌, 인프라를 안정적으로 운영하는 레이스와 같습니다. 수천 개의 GPU를 ..

[ kt cloud Foundation플랫폼팀 이초환 님 ] 📋 요약 이 글에서는 Git 시크릿 관리 개선과 Kubernetes Secret 오브젝트 제거를 위한 Vault 도입 전략을 다룹니다.시크릿 노출 위험을 줄이고 운영 환경의 보안 기준을 명확히 하는 방향을 정리합니다.#Vault #GitSecret #Kubernetes #CSIProvider #시크릿관리 왜 Sealed Secrets도 SOPS도 아닌 Vault였나 — 도입 배경과 전략요건은 두 가지였다회사에서 시크릿 관리 개선 요청을 받았다. 요건을 정리하니 두 가지로 요약됐다.Git 레포에 평문으로 관리되는 시크릿을 제거할 것Kubernetes 클러스터 위에 Secret 오브젝트로 민감정보가 떠 있는 것을 없앨 것두 번째 ..

[ kt cloud DC동부운용팀 이민재 님 ] 📋 요약 이 글에서는 AI 데이터센터 전력 케이블의 구조, 설계, 시공, 진단과 차세대 기술을 다룹니다.안정적인 전력 공급이 인프라 신뢰도와 운영 관리에 미치는 영향을 정리합니다.#AI데이터센터 #전력케이블 #데이터센터인프라 #HVDC #XLPE 전력 확보 전쟁, 그 중심에 선 케이블최근 '전력 확보 전쟁'이라는 말이 뉴스 헤드라인을 장식하고 있습니다. 생성형 AI의 등장으로 데이터센터의 랙당 전력 밀도가 과거 4~5kW 수준에서 40kW, 심지어 100kW까지 치솟고 있기 때문입니다. 이 거대한 에너지를 발전소에서 변전소를 거쳐, 최종 서버의 PSU(Power Supply Unit)까지 손실 없이 전달하는 것이 바로 케이블의 미션입니다...

[ kt cloud Azure전환팀 변세림 님 ] 📋 요약 이 글에서는 Terraform 모듈 설계 원칙과 표준 구조, 실무 적용 기준을 다룹니다.안정적인 인프라 운영을 위해 모듈 복잡도와 변경 위험을 줄이는 방향을 정리합니다.#Terraform #IaC #Terraform모듈 #HashiCorp #인프라자동화안녕하세요. 🙋1부에서 IaC의 본질을 살펴봤는데요, 이번에는 조금 더 실전적인 이야기를 해볼게요.Terraform을 쓰다 보면 어느 순간 꼭 이런 상황이 생겨요."처음엔 그냥 리소스 파일을 하나씩 만들었는데, 어느 순간 코드가 뒤엉켜서 뭐가 뭔지 모르게 됐다.""모듈을 만들긴 했는데... 팀원이 어떻게 쓰는지 모른다.""모듈 하나 고쳤더니 왜 다른 환경이 망가졌지?" 이런 문제..

[ kt cloud Foundation플랫폼팀 서준호 님 ] 📋 요약 이 글에서는 AI 인프라 비즈니스의 핵심 경쟁력인 GPU 중심 인프라와 풀스택 최적화 전략을 다룹니다.운영 효율성과 비용 경쟁력을 높이는 실질적 방향을 정리합니다.#AI인프라 #GPU #풀스택최적화 #Neoclouds #AI데이터센터 1. Neoclouds 의 탄생Neoclouds의 목적은 단 하나, AI를 위한 최적의 환경을 제공하는 것입니다. 이들은 GPU 중심의 대규모 병렬 연산, 고대역폭 네트워킹, 저지연 스토리지, 고도화된 데이터센터 관리 기능을 갖추어 비용 효율적인 인프라 서비스를 제공합니다. 천편일률적인 옵션을 제시하는 Hyperscalers 와 달리, Neoclouds는 고객의 특수한 요구와 진화하는 ..

안정성은 클라우드의 기본이지만, 그 기본을 끝까지 지키는 일은 결코 단순하지 않습니다. 이번 케클s피드에서는 Multi-AZ 기반 이중화 설계부터 보안 거버넌스, 데이터 보호 전략까지 신뢰받는 플랫폼을 만들기 위한 핵심 요소들을 살펴봅니다. 장애 이후의 복구가 아닌, 장애를 전제로 한 플랫폼 설계 이야기와 보안·데이터 안정성을 위한 3가지 필수 레이어를 통해, kt cloud가 어떻게 안정적인 클라우드를 만들어가고 있는지 확인해 보세요.“장애 발생 이후 ‘복구’하는 것만으로 충분할까?” kt cloud Cloud플랫폼팀 한승진 팀장은 이 질문에서부터 아키텍처 재설계를 시작했습니다. 기존 DR(재해 복구) 방식은 장애 시 서비스 단절이 불가피할 뿐만 아니라, 복구 구조를 설계하는 부담과 상시 대기 비용까지..