[튜토리얼] 실시간 고객 응답 시스템 만들기: kt cloud AI SERV NPU 완벽 활용법

[ kt cloud AI플랫폼팀 최지우 님 ] 📋 요약 kt cloud AI SERV NPU를 활용하여 고객 문의 응답 보조 시스템을 구축한 사례를 소개합니다.GPU 대비 비용 효율적인 NPU 환경에서 LLM 모델을 최적화하고 문서 기반 자동 응답 시스템을 구현하는 방법을 다룹니다. #NPU #AI응답시스템 #LLM최적화 #문서검색 #비용효율AI 서비스에 대한 수요는 최근 몇 년 사이 급격히 증가하고 있습니다. 그에 따라 자연스럽게 GPU 기반 인프라에 대한 수요도 함께 높아지고 있으며, 특히 클라우드 환경에서는 다양한 AI 모델 학습 및 추론 워크로드를 처리하기 위한 GPU 자원의 확보가 중요한 과제가 되었습니다. 하지만 AI 모델의 크기와 복잡성이 커질수록 GPU 자원은 더욱 부족해지고 있으며, 사..

[사례연구] kt cloud OpenStack GitOps 배포 전략: Genestack 기반 CI/CD 자동화 구축 과정

[ kt cloud Foundation플랫폼팀 이지은 님 ] 📋 요약 kt cloud가 Genestack 기반으로 구축한 OpenStack GitOps 배포 자동화 시스템을 소개합니다.Helm Chart와 ArgoCD를 활용해 컨테이너 이미지 빌드부터 배포까지 전 과정을 Git 기반으로 자동화한 실무 사례를 다룹니다.#OpenStack #GitOps #Genestack #ArgoCD #Helm #자동화배포kt cloud는 2024년 말, Rackspace와의 기술 협업을 통해 Genestack 기반의 OpenStack 배포 구조를 검토하고 실증하는 PoC를 진행했습니다. Genestack은 Rackspace가 자체적으로 개발한 배포 도구로, OVN 기반 네트워크 아키텍처와 함께 public/privat..

[kt cloud 마케팅커뮤니케이션팀] 안녕하세요, kt cloud 마케팅커뮤니케이션팀입니다.😎 건설 현장에서 설계도만 믿고 '감'에 의존하던 시대는 지났습니다.이제는 BIM(Building Information Modeling)을 통해 설계부터 시공, 운영까지 전 과정을 디지털로 통합 관리하는 ‘스마트 빌드’ 시대입니다. kt cloud는 BIM을 통해 설계 오류를 줄이고, 시공의 효율성과 정확도를 높여 보다 체계적이고 스마트한 데이터센터 구축을 이끌고 있습니다.🏢 이번 글에서는 DC PM팀의 최연실 매니저님을 만나 설계부터 현장 적용, 그리고 앞으로의 목표까지! BIM과 AR을 활용한 생생한 데이터센터 구축 경험담을 들어봤습니다. Q. BIM과 AR에 대해서 설명해주세요.BIM은 시뮬레이션 게..

[kt cloud 마케팅커뮤니케이션팀 김지웅 님 ] 들어가며 💭안녕하세요, kt cloud 마케터 김지웅입니다. 🙋‍♂️요즘 AI 에이전트들이 점점 똑똑해지고 있는데, 혹시 이런 생각 해보신 적 있나요? "우리 회사의 고객서비스 AI와 재고관리 AI가 서로 대화할 수 있다면 얼마나 좋을까?" 🤔 그런데 이게 정말 현실이 되고 있어요! 구글이 개발한 A2A(Agent2Agent) 프로토콜이 바로 그 해답을 제시하고 있거든요. 마치 서로 다른 언어를 쓰던 AI들에게 공통 언어를 가르쳐준 셈이랄까요? 사실 그동안 많은 기업에서는 AI 시스템들이 '각자도생'으로 운영됐어요. 예를 들면 고객센터 AI, ERP 시스템 AI, HR 챗봇이 따로따로 움직여서 정보 교환이 쉽지 않았죠. 이런 상황에서 등장한 게 바..

[ kt cloud DC동부운용센터 박지현 님 ] UPS란 무엇일까?정전(停電)이란 사전적 의미로 전력 공급이 중단된 상태를 말합니다. 현대 사회에서 전력 공급이 중단된다면 어떤 일이 일어날까요? 일상 생활에서는 정전으로 인해 조명이 꺼지고 가전 제품의 작동이 중단되어 생활에 큰 불편을 겪게 됩니다. 사회적으로는 각종 기반 시설들이 셧다운(Shutdown)되어 혼란을 유발하고 큰 경제적 손실이 발생할 수 있습니다. 데이터센터(Data Center)는 여러 산업의 주요 데이터가 모여 있는 곳으로, 전력 공급이 중단되어 데이터 손실이 발생되거나 서버에 영구적인 손상이 발생하는 것을 방지하기 위해 무정전 전원 공급 장치 시스템(UPS, Uninterruptible Power Supply System)을 운영..

[ kt cloud Cloud컨설팅팀 심대섭 님 ] AI 에이전트는 이제 기업 실무를 자동화하는 실행 시스템입니다. 이 글에서는 구글이 제안한 AI 아키텍처를 바탕으로, 조직이 업무 효율을 높이기 위해 어떻게 설계 전략을 세워야 하는지 쉽게 설명합니다. 대규모 언어 모델(LLM)의 시대가 본격적으로 시작된 지 몇 년, 많은 기업이 생성형 AI 기술을 도입했지만, 실제 비즈니스 실행력 향상에는 여전히 갈증을 느끼고 있습니다. 왜일까요? LLM은 텍스트 생성에는 능하지만, 실제 시스템을 작동시키거나 업무를 완료하는 실행 능력은 부족하기 때문입니다.이제는 ‘AI 에이전트 구조’에 주목해야 할 때이 글에서는 구글(Google)이 제안한 AI 에이전트 아키텍처를 바탕으로, 실제 기업 환경에서 어떻게 AI 실행력..

[ kt cloud Cloud컨설팅팀 심대섭 님 ] AI 기술의 급속한 확산과 함께, GPU 연산에 최적화된 AI 전용 데이터센터(AI DC)의 수요가 급증하고 있습니다. 본 글에서는 2025년 기준 AI DC의 정의, 기존 IDC와의 차이점, 핵심 인프라 구성 요소, 전력 밀도 및 냉각 시스템 등 기술적 특성을 체계적으로 분석합니다. AI 모델의 대형화와 연산량 급증은 기존 데이터센터의 한계를 드러내고 있습니다. 특히 GPU 중심의 대규모 병렬 연산을 안정적으로 수용하기 위해서는, 전력 밀도, 열 발생량, 냉각 효율, 고속 네트워크 등 인프라 전반에 걸쳐 구조적인 변화가 요구됩니다. 이러한 요구에 대응해 등장한 것이 바로 AI DC입니다.2025년을 기준으로, AI DC는 글로벌 빅테크 기업은 물..

[kt cloud 마케팅커뮤니케이션팀 김지웅 님 ] 들어가며 💭안녕하세요, kt cloud 마케터 김지웅입니다. 🙋‍♂️최근 AI 업계에서 가장 뜨거운 화두 중 하나가 바로 MCP(Model Context Protocol)예요. 2024년 11월 Anthropic이 발표한 이 프로토콜이 불과 몇 개월 만에 업계의 주목을 받고 있는데요, 특히 개발자 커뮤니티에서 빠르게 확산되고 있어요. 혹시 "또 다른 프로토콜이 나왔나?" 하고 생각하실 수도 있지만, MCP는 조금 다른 의미를 가져요. 마치 USB-C가 스마트폰, 노트북, 태블릿 등 다양한 기기들의 충전과 데이터 전송 방식을 하나로 통일한 것처럼, MCP는 AI 에이전트와 외부 시스템(데이터베이스, API, 파일 시스템 등) 간의 연결을 표준화하려는 ..

[ kt cloud AI플랫폼팀 최지우 님 ] AI 개발을 위해 GPU 서버를 처음 준비할 때는, 운영체제만 설치한다고 해서 바로 사용할 수 있는 것은 아닙니다.딥러닝 모델을 학습시키거나 추론을 수행하려면, NVIDIA 드라이버를 시작으로 CUDA, cuDNN 같은 라이브러리, 그리고 PyTorch나 TensorFlow 같은 프레임워크까지 다양한 소프트웨어를 직접 설치하고 설정해야 합니다. 초기 상태의 서버를 기반으로 딥러닝 개발 환경을 제대로 갖추기 위해서는 어떤 구성 요소들이 필요한지, 각각 어떤 버전을 선택하는 것이 좋은지, 그리고 어떤 순서로 설치를 진행해야 하는지를 잘 아는 것이 중요합니다. 이번에는 GPU 서버를 처음 세팅하는 분들을 위해, 딥러닝 개발에 필요한 필수 구성 요소들과 권장 ..

[ kt cloud AI플랫폼팀 최지우 님 ] cgroup(Control Group)은 Linux 커널에서 제공하는 기능으로, 프로세스 그룹 단위로 시스템 자원의 사용을 제한하고 모니터링할 수 있도록 해줍니다. CPU, 메모리, 디스크 I/O, 네트워크 등 다양한 자원에 대해 세밀한 제어가 가능합니다. 예를 들어, A라는 컨테이너의 CPU 사용률을 최대 20%로 제한하거나, B 컨테이너가 특정 GPU 디바이스 하나만 사용하도록 설정할 수 있습니다. 또한, 특정 프로세스 그룹이 특정 디바이스에 접근하지 못하도록 차단하는 것도 가능합니다. 이처럼 cgroup은 Docker, systemd, Kubernetes와 같은 컨테이너 기술에서 자원 격리 및 제어를 위한 핵심 기술로 널리 활용되고 있습니다.cgroup..