kt cloud의 기술 전문가들이 전하는 클라우드 서비스와 데이터센터 기술 이야기입니다. 인프라 구축부터 운영까지 실무 경험을 바탕으로 한 전문 인사이트를 공유합니다.

Tech Story 147

[Tech Series] kt cloud AI 검색 증강 생성(RAG) #1 : 핵심 개념과 시스템 구조 이해

[ kt cloud 마케팅커뮤니케이션팀 김지웅 님 ]📋요약 생성형 AI의 한계를 보완하는 RAG(Retrieval-Augmented Generation)의 개념과 구조를 소개합니다.검색과 생성을 결합해 최신 정보 반영, 출처 기반 정확성, 투명한 검증으로신뢰성 있는 답변을 가능하게 하는 원리와 핵심 요소를 설명합니다. #RAG #검색증강생성 #벡터임베딩 #AI아키텍처 #LLM들어가며 💭안녕하세요, kt cloud 테크 마케터 김지웅입니다. 🙋‍♂️요즘 뉴스와 컨퍼런스에서는 하루가 멀다 하고 “생성형 AI 혁신 사례”가 쏟아지고 있어요.하지만 막상 현업에서 만나는 분들은 이렇게 묻곤 해요.“AI가 답은 잘하는데… 믿을 만한 걸까? 🤔”그 의문에는 이유가 있어요. AI 답변이 때로는 겉보기에 그럴듯하..

[트렌드 리포트] 하이퍼스케일러 AI 투자 전쟁: GPU 부족 현상과 클라우드 업계 대응 전략

[ kt cloud DC글로벌고객팀 심재문 님 ] 📋 요약 글로벌 클라우드 서비스 제공업체들이 AI 시대를 선도하기 위해 데이터센터와 GPU 인프라에 대규모 투자를 진행하고 있습니다.AI 워크로드 처리를 위한 냉각 기술 혁신과 하이브리드 인프라 모델로의 전환이 가속화되고 있습니다. #하이퍼스케일러 #AI인프라 #GPU #데이터센터 #클라우드 최근 글로벌 클라우드 시장의 트렌드를 주도하는 키워드는 바로 '생성형 AI'입니다. AWS, Microsoft Azure, Google Cloud, Meta 등 글로벌 CSP(Cloud Service Provider) 기업들은 AI 경쟁에서 뒤처지지 않기 위해 데이터센터와 GPU 등 하드웨어 인프라에 역대급 투자를 단행하고 있습니다. 이들이 왜 AI 인프라 투자에..

[기술리포트] AI 워크로드 급증 대응: 데이터센터 차세대 프리쿨링 시스템 완전 분석

[ kt cloud DC동부운용센터 박지현 님 ] 📋 요약 AI 워크로드 증가로 인한 데이터센터 전력 소비 급증에 대응하는 프리쿨링 시스템의 원리와 종류를 분석합니다.직접식과 간접식 프리쿨링 방식의 특징을 비교하고 데이터센터 에너지 절감 방안을 제시합니다. #데이터센터 #프리쿨링 #AI워크로드 #에너지절감 #냉각시스템데이터센터 프리쿨링 도입 필요성데이터센터에서는 각종 산업 시설의 데이터를 저장하고 처리하는 IT 장비가 365일, 24시간 무중단으로 운영되고 있습니다.장비의 최적 성능을 유지하기 위해서는 장비가 설치된 공간의 온도와 습도를 적합한 조건으로 유지해야 합니다.이에 따라 오늘날 데이터센터에서 소비되는 전력의 약 40%가 냉각을 위해 사용되고 있습니다. 국제에너지기구(IEA)에서 발표한 보고서 ..

[튜토리얼] 실시간 고객 응답 시스템 만들기: kt cloud AI SERV NPU 완벽 활용법

[ kt cloud AI플랫폼팀 최지우 님 ] 📋 요약 kt cloud AI SERV NPU를 활용하여 고객 문의 응답 보조 시스템을 구축한 사례를 소개합니다.GPU 대비 비용 효율적인 NPU 환경에서 LLM 모델을 최적화하고 문서 기반 자동 응답 시스템을 구현하는 방법을 다룹니다. #NPU #AI응답시스템 #LLM최적화 #문서검색 #비용효율AI 서비스에 대한 수요는 최근 몇 년 사이 급격히 증가하고 있습니다. 그에 따라 자연스럽게 GPU 기반 인프라에 대한 수요도 함께 높아지고 있으며, 특히 클라우드 환경에서는 다양한 AI 모델 학습 및 추론 워크로드를 처리하기 위한 GPU 자원의 확보가 중요한 과제가 되었습니다. 하지만 AI 모델의 크기와 복잡성이 커질수록 GPU 자원은 더욱 부족해지고 있으며, 사..

Tech Story/AI Cloud 2025.08.06

[사례연구] kt cloud OpenStack GitOps 배포 전략: Genestack 기반 CI/CD 자동화 구축 과정

[ kt cloud Foundation플랫폼팀 이지은 님 ] 📋 요약 kt cloud가 Genestack 기반으로 구축한 OpenStack GitOps 배포 자동화 시스템을 소개합니다.Helm Chart와 ArgoCD를 활용해 컨테이너 이미지 빌드부터 배포까지 전 과정을 Git 기반으로 자동화한 실무 사례를 다룹니다.#OpenStack #GitOps #Genestack #ArgoCD #Helm #자동화배포kt cloud는 2024년 말, Rackspace와의 기술 협업을 통해 Genestack 기반의 OpenStack 배포 구조를 검토하고 실증하는 PoC를 진행했습니다. Genestack은 Rackspace가 자체적으로 개발한 배포 도구로, OVN 기반 네트워크 아키텍처와 함께 public/privat..

[인터뷰] BIM을 활용한 kt cloud의 스마트한 데이터센터 구축 스토리

[kt cloud 마케팅커뮤니케이션팀] 안녕하세요, kt cloud 마케팅커뮤니케이션팀입니다.😎 건설 현장에서 설계도만 믿고 '감'에 의존하던 시대는 지났습니다.이제는 BIM(Building Information Modeling)을 통해 설계부터 시공, 운영까지 전 과정을 디지털로 통합 관리하는 ‘스마트 빌드’ 시대입니다. kt cloud는 BIM을 통해 설계 오류를 줄이고, 시공의 효율성과 정확도를 높여 보다 체계적이고 스마트한 데이터센터 구축을 이끌고 있습니다.🏢 이번 글에서는 DC PM팀의 최연실 매니저님을 만나 설계부터 현장 적용, 그리고 앞으로의 목표까지! BIM과 AR을 활용한 생생한 데이터센터 구축 경험담을 들어봤습니다. Q. BIM과 AR에 대해서 설명해주세요.BIM은 시뮬레이션 게..

[Tech Series] A2A는 AI 에이전트 간 통합과 확장성을 어떻게 향상시킬까?

[kt cloud 마케팅커뮤니케이션팀 김지웅 님 ] 들어가며 💭안녕하세요, kt cloud 테크 마케터 김지웅입니다. 🙋‍♂️요즘 AI 에이전트들이 점점 똑똑해지고 있는데, 혹시 이런 생각 해보신 적 있나요? "우리 회사의 고객서비스 AI와 재고관리 AI가 서로 대화할 수 있다면 얼마나 좋을까?" 🤔 그런데 이게 정말 현실이 되고 있어요! 구글이 개발한 A2A(Agent2Agent) 프로토콜이 바로 그 해답을 제시하고 있거든요. 마치 서로 다른 언어를 쓰던 AI들에게 공통 언어를 가르쳐준 셈이랄까요? 사실 그동안 많은 기업에서는 AI 시스템들이 '각자도생'으로 운영됐어요. 예를 들면 고객센터 AI, ERP 시스템 AI, HR 챗봇이 따로따로 움직여서 정보 교환이 쉽지 않았죠. 이런 상황에서 등장한 ..

[기술리포트] 데이터센터에서 UPS의 역할: 데이터센터가 정전에 대비하는 방법

[ kt cloud DC동부운용센터 박지현 님 ] UPS란 무엇일까?정전(停電)이란 사전적 의미로 전력 공급이 중단된 상태를 말합니다. 현대 사회에서 전력 공급이 중단된다면 어떤 일이 일어날까요? 일상 생활에서는 정전으로 인해 조명이 꺼지고 가전 제품의 작동이 중단되어 생활에 큰 불편을 겪게 됩니다. 사회적으로는 각종 기반 시설들이 셧다운(Shutdown)되어 혼란을 유발하고 큰 경제적 손실이 발생할 수 있습니다. 데이터센터(Data Center)는 여러 산업의 주요 데이터가 모여 있는 곳으로, 전력 공급이 중단되어 데이터 손실이 발생되거나 서버에 영구적인 손상이 발생하는 것을 방지하기 위해 무정전 전원 공급 장치 시스템(UPS, Uninterruptible Power Supply System)을 운영..

[기술리포트] 2025 구글 AI 에이전트 아키텍처 구조 완벽 이해

[ kt cloud Cloud컨설팅팀 심대섭 님 ] AI 에이전트는 이제 기업 실무를 자동화하는 실행 시스템입니다. 이 글에서는 구글이 제안한 AI 아키텍처를 바탕으로, 조직이 업무 효율을 높이기 위해 어떻게 설계 전략을 세워야 하는지 쉽게 설명합니다. 대규모 언어 모델(LLM)의 시대가 본격적으로 시작된 지 몇 년, 많은 기업이 생성형 AI 기술을 도입했지만, 실제 비즈니스 실행력 향상에는 여전히 갈증을 느끼고 있습니다. 왜일까요? LLM은 텍스트 생성에는 능하지만, 실제 시스템을 작동시키거나 업무를 완료하는 실행 능력은 부족하기 때문입니다.이제는 ‘AI 에이전트 구조’에 주목해야 할 때이 글에서는 구글(Google)이 제안한 AI 에이전트 아키텍처를 바탕으로, 실제 기업 환경에서 어떻게 AI 실행력..

[기술리포트] 2025 AI 데이터센터 완벽 분석 - 개념부터 필요성까지

[ kt cloud Cloud컨설팅팀 심대섭 님 ] AI 기술의 급속한 확산과 함께, GPU 연산에 최적화된 AI 전용 데이터센터(AI DC)의 수요가 급증하고 있습니다. 본 글에서는 2025년 기준 AI DC의 정의, 기존 IDC와의 차이점, 핵심 인프라 구성 요소, 전력 밀도 및 냉각 시스템 등 기술적 특성을 체계적으로 분석합니다. AI 모델의 대형화와 연산량 급증은 기존 데이터센터의 한계를 드러내고 있습니다. 특히 GPU 중심의 대규모 병렬 연산을 안정적으로 수용하기 위해서는, 전력 밀도, 열 발생량, 냉각 효율, 고속 네트워크 등 인프라 전반에 걸쳐 구조적인 변화가 요구됩니다. 이러한 요구에 대응해 등장한 것이 바로 AI DC입니다.2025년을 기준으로, AI DC는 글로벌 빅테크 기업은 물..