[Tech Series] kt cloud AI 검색 증강 생성(RAG) #1 : 핵심 개념과 시스템 구조 이해

[ kt cloud 마케팅커뮤니케이션팀 김지웅 님 ]📋요약생성형 AI의 한계를 보완하는 RAG(Retrieval-Augmented Generation)의 개념과 구조를 소개합니다.검색과 생성을 결합해 최신 정보 반영, 출처 기반 정확성, 투명한 검증으로신뢰성 있는 답변을 가능하게 하는 원리와 핵심 요소를 설명합니다. #RAG #검색증강생성 #벡터임베딩 #AI아키텍처 #LLM들어가며 💭안녕하세요, kt cloud 테크 마케터 김지웅입니다. 🙋‍♂️요즘 뉴스와 컨퍼런스에서는 하루가 멀다 하고 “생성형 AI 혁신 사례”가 쏟아지고 있어요.하지만 막상 현업에서 만나는 분들은 이렇게 묻곤 해요.“AI가 답은 잘하는데… 믿을 만한 걸까? 🤔”그 의문에는 이유가 있어요. AI 답변이 때로는 겉보기에 그럴듯하지..

[ kt cloud DC글로벌고객팀 심재문 님 ] 📋 요약 글로벌 클라우드 서비스 제공업체들이 AI 시대를 선도하기 위해 데이터센터와 GPU 인프라에 대규모 투자를 진행하고 있습니다.AI 워크로드 처리를 위한 냉각 기술 혁신과 하이브리드 인프라 모델로의 전환이 가속화되고 있습니다. #하이퍼스케일러 #AI인프라 #GPU #데이터센터 #클라우드 최근 글로벌 클라우드 시장의 트렌드를 주도하는 키워드는 바로 '생성형 AI'입니다. AWS, Microsoft Azure, Google Cloud, Meta 등 글로벌 CSP(Cloud Service Provider) 기업들은 AI 경쟁에서 뒤처지지 않기 위해 데이터센터와 GPU 등 하드웨어 인프라에 역대급 투자를 단행하고 있습니다. 이들이 왜 AI 인프라 투자에..

[ kt cloud DC동부운용센터 박지현 님 ] 📋 요약 AI 워크로드 증가로 인한 데이터센터 전력 소비 급증에 대응하는 프리쿨링 시스템의 원리와 종류를 분석합니다.직접식과 간접식 프리쿨링 방식의 특징을 비교하고 데이터센터 에너지 절감 방안을 제시합니다. #데이터센터 #프리쿨링 #AI워크로드 #에너지절감 #냉각시스템데이터센터 프리쿨링 도입 필요성데이터센터에서는 각종 산업 시설의 데이터를 저장하고 처리하는 IT 장비가 365일, 24시간 무중단으로 운영되고 있습니다.장비의 최적 성능을 유지하기 위해서는 장비가 설치된 공간의 온도와 습도를 적합한 조건으로 유지해야 합니다.이에 따라 오늘날 데이터센터에서 소비되는 전력의 약 40%가 냉각을 위해 사용되고 있습니다. 국제에너지기구(IEA)에서 발표한 보고서 ..

[ kt cloud AI플랫폼팀 최지우 님 ] 📋 요약 kt cloud AI SERV NPU를 활용하여 고객 문의 응답 보조 시스템을 구축한 사례를 소개합니다.GPU 대비 비용 효율적인 NPU 환경에서 LLM 모델을 최적화하고 문서 기반 자동 응답 시스템을 구현하는 방법을 다룹니다. #NPU #AI응답시스템 #LLM최적화 #문서검색 #비용효율AI 서비스에 대한 수요는 최근 몇 년 사이 급격히 증가하고 있습니다. 그에 따라 자연스럽게 GPU 기반 인프라에 대한 수요도 함께 높아지고 있으며, 특히 클라우드 환경에서는 다양한 AI 모델 학습 및 추론 워크로드를 처리하기 위한 GPU 자원의 확보가 중요한 과제가 되었습니다. 하지만 AI 모델의 크기와 복잡성이 커질수록 GPU 자원은 더욱 부족해지고 있으며, 사..

[ kt cloud Foundation플랫폼팀 이지은 님 ] 📋 요약 kt cloud가 Genestack 기반으로 구축한 OpenStack GitOps 배포 자동화 시스템을 소개합니다.Helm Chart와 ArgoCD를 활용해 컨테이너 이미지 빌드부터 배포까지 전 과정을 Git 기반으로 자동화한 실무 사례를 다룹니다.#OpenStack #GitOps #Genestack #ArgoCD #Helm #자동화배포kt cloud는 2024년 말, Rackspace와의 기술 협업을 통해 Genestack 기반의 OpenStack 배포 구조를 검토하고 실증하는 PoC를 진행했습니다. Genestack은 Rackspace가 자체적으로 개발한 배포 도구로, OVN 기반 네트워크 아키텍처와 함께 public/privat..

[kt cloud 마케팅커뮤니케이션 팀]안녕하세요, kt cloud 마케팅커뮤니케이션팀입니다. 생성형 AI 도입에 대한 관심이 높아지며, 기업들은 단순한 API 호출을 넘어 자사 데이터를 기반으로 하는 맞춤형 AI 시스템 구축에 관심을 갖기 시작했습니다. 그 중심에 있는 기술이 바로 RAG(Retrieval-Augmented Generation)인데요. 하지만 기술의 개념은 점차 알려지고 있음에도, 실제 기업 환경에서 RAG 시스템을 도입·운영하기까지는 여전히 다양한 장벽이 존재합니다. 지난 7월 24일, ‘우리 기업의 AX 전략 웨비나’에 참석한 실무자 약 300명을 대상으로 진행한 설문을 통해 기업들이 생성형 AI, 특히 RAG 도입을 어떻게 고민하고 있으며 어떤 지원이 필요한지를 구체적으로 살펴보았..

안녕하세요. 케클s피드 구독자 여러분 !어느덧 여섯 번째 케클s피드로 인사드립니다. 무더운 여름에도, 케클s피드는 변함없이 기술과 인사이트를 가득 담아 찾아왔습니다. 더 궁금한 주제가 있다면, 뉴스레터 하단의 피드백 폼에 자유롭게 남겨주세요.참여해주신 분들께는 추첨을 통해 시원한 커피 한 잔을 선물로 드립니다.🍹기술 공유와 토론의 장, kt cloud 'Tech Talk' 성료 kt cloud가 기술본부 구성원들을 대상으로 진행한 기술 공유 세미나 'Tech Talk'를 성황리에 개최했습니다.kt cloud 기술본부는 기술 중심 회사로의 도약을 목표로 설립된 조직으로, 기술 전략 수립과 핵심 기술 내재화를 주도하고 있는데요. 동시에 변화에 민첩하게 대응하고 유연하게 바꿔 나가는 애자일(Agile) 문화..

[kt cloud 마케팅커뮤니케이션팀] 안녕하세요, kt cloud 마케팅커뮤니케이션팀입니다.😎 건설 현장에서 설계도만 믿고 '감'에 의존하던 시대는 지났습니다.이제는 BIM(Building Information Modeling)을 통해 설계부터 시공, 운영까지 전 과정을 디지털로 통합 관리하는 ‘스마트 빌드’ 시대입니다. kt cloud는 BIM을 통해 설계 오류를 줄이고, 시공의 효율성과 정확도를 높여 보다 체계적이고 스마트한 데이터센터 구축을 이끌고 있습니다.🏢 이번 글에서는 DC PM팀의 최연실 매니저님을 만나 설계부터 현장 적용, 그리고 앞으로의 목표까지! BIM과 AR을 활용한 생생한 데이터센터 구축 경험담을 들어봤습니다. Q. BIM과 AR에 대해서 설명해주세요.BIM은 시뮬레이션 게..

[kt cloud 마케팅커뮤니케이션 팀]안녕하세요, kt cloud 마케팅커뮤니케이션팀입니다. 기업의 AX(AI Transformation)가 본격화되면서 비즈니스 경쟁력 확보를 위한 생성형 AI 도입이 중요한 과제로 떠오르고 있습니다. 하지만 실제 구현 단계에서는 모델 선정, 인프라 구성, 데이터 연계, 보안, 비용 등 복잡한 과제를 동시다발적으로 해결해야 하는 문제에 직면하게 됩니다. 이러한 현실적인 어려움을 해결하기 위해 지난 24일,kt cloud에서는‘우리 기업의 AX 전략 - RAG 구축으로 시작하는 kt cloud AI Foundry 활용’을 주제로 웨비나를 진행했습니다. 이번 AX 전략 웨비나에서는 연사들의 풍부한 실전 경험을 바탕으로, AI 산업과 RAG 기술 트렌드, 그리고 kt clo..

[kt cloud 마케팅커뮤니케이션 팀] 안녕하세요, kt cloud 마케팅커뮤니케이션팀입니다🙌 DataCloud Global Congress 행사에 직접 참석하신 kt cloud DBO사업팀 김병기님, DC글로벌고객팀 서진원님, DC관제센터 임병운님, BD컨설팅팀 이재근님의 생생한 참관기를 재구성하여 공유드립니다.📢글로벌 전문가들이 모였다! AI시대 데이터센터의 전략과 대응지난 6월, 프랑스 칸에서 DataCloud Global Congress(데이터클라우드 글로벌 콘퍼런스)가 열렸습니다. 올해로 20회를 맞이한 이 행사에서는 데이터센터 업계 전문가들이 모여 데이터센터의 전략적 대응과 고객 중심의 미래형 설계 방향에 대해 열띤 논의를 펼쳤습니다. AI 수요가 급증하면서, 데이터센터 역할이 그 어느..