케클s피드 8월호｜AI Foundry, 기업 AI 전환의 출발점

안녕하세요. 케클s피드 구독자 여러분 ! 뜨거웠던 여름을 마무리하며, 잠시 숨을 고르며 돌아보는 이 시점에 케클s피드가 알찬 기술과 인사이트를 담아왔습니다. 더 궁금한 주제가 있다면, 뉴스레터 하단의 피드백 폼에 자유롭게 남겨주세요. 참여해주신 분들께는 추첨을 통해 시원한 커피 한 잔을 선물로 드립니다.🍹 버티컬 AI 협력 위한 ‘AI Foundry’ 파트너십 확대 올거나이즈 등 5개 기업과 MOU kt cloud는 지난 25일, 산업별 특화 AI 협력을 강화하기 위해 올거나이즈, 인핸스, 세이지, 스피링크, 몽고DB 등 5개 기업과 업무협약(MOU)를 체결했습니다. 이를 통해 금융·이커머스·제조 등 각 산업에 최적화된 AI 모델과 에이전트를 AI Foundry 기반으로 공급할 계획입니다. 이번 협력으로 각 사의 기술력과 경험을 모아 국내 주요 산업의 AI 혁신과 새로운 비즈니스 기회를 만들어 갑니다. 앞으로도 kt cloud는 AI Foundry를 중심으로 다양한 버티컬 AI 선도 기업과 협력하며, 민·관 전반의 AI 전환을 가속화하고 국내 AI 생태계 발전을 주도해 나가겠습니다. 오는 9월에는 ‘RAG Suite’를 정식 출시해 쉽고 빠른 RAG 시스템 구축을 지원할 예정입니다. 이를 기반으로 고품질 지식 데이터와 업종별 자동화 솔루션을 결합해 차별화된 ‘에이전틱(Agentic) RAG’ 경험을 제공하고, 국내 AI 생태계 발전을 선도해 나갈 계획입니다. 우리 기업의 AX 전략 웨비나 생성형 AI 도입이 막막한 기업을 위한 현실적인 첫걸음 기업의 AX(AI Transformation)가 본격화되면서 비즈니스 경쟁력 확보를 위한 생성형 AI 도입이 중요한 과제로 떠오르고 있습니다. 하지만 실제 구현 단계에서는 모델 선정, 인프라 구성, 데이터 연계, 보안, 비용 등 복잡한 과제를 동시다발적으로 해결해야 하는 문제에 직면하게 됩니다. 이러한 과제를 해결하기 위해 kt cloud는 지난 24일 ‘우리 기업의 AX 전략 - RAG 구축으로 시작하는 kt cloud AI Foundry 활용’을 주제로 웨비나를 진행했습니다. AI 산업·RAG 기술 트렌드부터 AI Foundry의 구조·생태계, 실제 서비스 아키텍처와 도입 효과까지 실무 중심으로 다뤘는데요. 많은 분들이 적극적으로 참여해 주시고 질문을 남겨주신 덕분에, kt cloud의 2025년 세 번째 웨비나를 성공적으로 마칠 수 있었습니다. 아쉽게도 웨비나에 참석하지 못하신 분들을 위해, 이번 웨비나에서 공유된 중요한 정보들과 많은 관심을 받았던 Q&A 내용을 정리해 보았습니다. 요즘 생성형 AI 혁신 사례가 쏟아지지만, 현업에서는 이런 얘기를 자주 듣습니다. “AI가 답은 잘하는데… 진짜 믿어도 돼?” 사실 그럴듯해 보이지만 틀린 답을 내놓는 경우가 있고, 특히 전문 분야에서는 작은 오류도 큰 리스크로 이어질 수 있죠. 그래서 주목받는 해법이 RAG(Retrieval-Augmented Generation)입니다. 말 그대로 검색(Retrieval)과 생성(Generation)을 합쳐, AI가 스스로 지식만 쓰는 게 아니라 외부 데이터에서 근거를 찾아 답을 내놓는 방식이에요. 의료·법률·금융 분야에 적용했을 때는 정확도가 크게 높아지고, 특정 진단 태스크에서는 환각 발생률이 사실상 0%까지 떨어졌다는 결과도 나왔습니다. 이번 콘텐츠에서는 RAG의 원리, 아키텍처 구성 요소, 데이터 전처리 전략을 차근차근 살펴봅니다. 단순히 기술 설명을 넘어, 실제 현업에서 RAG가 어떻게 활용될 수 있을지도 함께 짚어볼 예정이에요. RAG의 개념은 점차 알려지고 있지만, 실제 기업 환경에서 시스템을 도입·운영하기까지는 여전히 다양한 장벽이 존재합니다. 이를 확인하기 위해 kt cloud는 지난 7월 24일, ‘우리 기업의 AX 전략 웨비나’에서 실무자 약 300명을 대상으로 설문을 진행했는데요. 이를 통해 기업들이 생성형 AI, 특히 RAG 도입을 어떻게 고민하고 있으며 어떤 지원이 필요한지를 구체적으로 살펴보았습니다.  DataCloud Global Congress in France AI 시대에 미래를 견인하는 데이터센터 혁신 전략 #AI시대 데이터센터의 전략과 대응 지난 6월, 프랑스 칸에서 DataCloud Global Congress가 열렸습니다. 올해로 20회를 맞이한 이 행사에서는 데이터센터 업계 전문가들이 모여 데이터센터의 전략적 대응과 고객 중심의 미래형 설계 방향에 대해 열띤 논의를 펼쳤습니다. #데이터센터, 중요한 건 ‘Doing’ 데이터센터 산업은 이제 기술과 전략 논의를 넘어, 이를 실제로 구현하고 안정적으로 운영할 수 있는지가 경쟁력의 핵심입니다. 이번 행사에서는 현장 경험과 실행 사례를 공유하며 실질적인 운영 역량이 강조됐습니다. #냉각 기술부터 전력 시스템까지 전시장에서는 최신 냉각·전력 인프라 기술이 공개됐습니다. 특히 VERTIV의 직접 냉각 방식은 단순 효율성을 넘어 친환경과 자원 절감을 함께 구현할 수 있는 차별화된 기술로 주목받았습니다. 📘 이달의 키워드 [LLMOps] LLMOps(Large Language Model Operations)는 대규모 언어모델을 안정적으로 운영하기 위한 관리 체계입니다. RAG 도입 이후에도 벡터DB 관리, 프롬프트 최적화, 성능·비용 모니터링 등이 필요하며, LLMOps는 이러한 과정을 자동화·체계화해 기업이 신뢰성 있게 AI를 활용하도록 돕습니다. kt cloud는 GPU 인프라와 AI Foundry를 통해 기업이 LLMOps 관점에서 RAG 기반 AI 활용을 안정적으로 이어갈 수 있는 환경을 제공합니다.