[kt cloud 플랫폼Innovation팀 강솔 님] gRPC의 내부 구조 파헤치기(2): Channel & Stub이번 포스팅에서는 gRPC의 핵심 동작 원리인 채널(Channel)과 스텁(Stub)의 개념과 역할을 살펴보겠습니다. 이를 통해 gRPC 서버와 클라이언트가 어떻게 연결되고, 클라이언트가 서버의 원격 메서드를 호출하는 과정을 명확히 이해할 수 있습니다. 1. 채널(Channel)과 스텁(stub)을 통한 서버와 클라이언트 연결하기  gRPC를 사용할 경우, 클라이언트는 서버의 원격 메서드를 마치 로컬에 있는 것처럼 호출할 수 있습니다. 이는 내부적으로 채널과 스텁이 서버와 클라이언트 간의 네트워크 연결과 호출 전달을 처리하기 때문입니다.이제 채널과 스텁이 어떻게 상호 작용하며 동작하는지에..

[kt cloud AI플랫폼팀 최지우 님]  NPU로 sLM 서빙하기: 새로운 가능성 탐구 AI 기술이 발전함에 따라, AI 모델의 효율적인 배포와 운영을 위한 새로운 처리 장치도 개발되고 있습니다. 이 과정에서 NPU(Neural Processing Unit)라는 새로운 주자가 등장했습니다. NPU는 인공 신경망 연산을 위해 특별히 설계된 프로세서로, 기존의 GPU(Graphics Processing Unit)와는 다른 방식으로 AI 워크로드를 처리합니다.NPU는 대규모 병렬 처리를 가능하게 하며, 특히 신경망 연산에 최적화되어 있습니다. 이로 인해 NPU는 적은 전력으로 높은 성능을 낼 수 있습니다. AI 모델의 학습과 추론 과정에서 NPU는 더욱 효율적인 데이터 흐름과 메모리 관리로 성능을 크게 향..

[kt cloud CloudSW운영팀 김호균 님]  OpenStack 컴퓨팅 서비스 이해하기: 기초편 kt cloud는 네트워크, 스토리지, 컴퓨팅 자원 등을 제공하는 인프라 서비스(IaaS)를 제공하고 있습니다. 이러한 IaaS 서비스는 주로 OpenStack, CloudStack, XenServer, VMWare와 같은 다양한 플랫폼을 통해 제공됩니다. 그중에서도 OpenStack 플랫폼이 어떻게 컴퓨팅 자원(VM)을 제공하는지, Nova 서비스를 중심으로 알아보겠습니다.  What is NoVA? OpenStack은 다양한 상호 연관된 프로젝트들을 통해서 클라우드 인프라 서비스를 제공해주는 오픈 소스 기반 소프트웨어 플랫폼 프로젝트입니다. Nova는 Keystone, Glance, Neutron, ..

[kt cloud 서비스개발팀 강상구 님]Container APM 서비스의 HA(High Availability) 테스트 안녕하세요, kt cloud의 K2P 서비스에 Container APM이라는 모니터링 서비스 옵션이 있다는 사실을 알고 계셨나요? 이번에, 데이터를 수집하는 체계를 단일화하고, 3개의 Master Pod를 통한 고가용성(HA) 구조로 Container APM 서비스가 더욱 고도화되었습니다. 데이터를 모니터링하고 수집된 데이터를 보관하는 APM 서비스에서 VM이나 서비스에 문제가 생겼을 때 데이터의 안정성과 고가용성에 대한 확인이 필요했습니다. 이 글에서는 고도화 과정에서 진행된 HA(High Availability) 기능 테스트의 기록을 간단하게 공유하고자 합니다.  테스트 환경 kt..

[kt cloud 서비스개발팀 우현수 님]  Design System 이 필요한 이유  Design System 이란? 제품이나 서비스의 UI를 일관성 있게 설계하고 개발하기 위한 일련의 가이드라인, 컴포넌트, 패턴 등을 모아놓은 체계를 말한다. 이를 통해 디자인과 개발팀이 협업할 때 통일된 기준을 유지하고, 사용자가 일관된 경험을 할 수 있도록 할 수 있다. 디자인 시스템은 특히 대규모 제품이나 장기적으로 유지 보수되는 프로젝트에서 중요하다. 또한, 새로운 기능을 추가하거나 페이지를 기획할 때도 기존 디자인과 쉽게 통합할 수 있으며 유연성과 확장성을 제공하는 도구이다. Design System 필요한 이유  1. 개발 효율성 향상: 개발자, 디자이너, 기획자 간의 반복적인 작업을 줄이고, 재사용할 수 ..

[kt cloud Container개발팀 강성원 님]    Kubernetes 버전 업그레이드 따라하기(v1.27 to v1.28)  본 글은 Kubernetes 클러스터의 버전을 1.27에서 1.28로 업그레이드 하는 방법에 대한 내용입니다.해당 시나리오는 kt cloud의 K2P Standard를 기반으로 작성하였습니다.   업그레이드 대상 클러스터 정보모든 노드의 OS : ubuntu 22.04Kubernetes 버전 : 1.27Deployment Tool : kubeadmCNI(Container Network Interface) : CalicoContainer Runtime : ContainerD 업그레이드 전 확인 Kubernetes 버전 업그레이드 전 Container Runtime, CNI..

[kt cloud 서비스개발팀 현지수 님]    ELK스택 간단히 구축하기 시스템에서 발생하는 로그들이 여기저기 흩어져 있어서 문제를 추적하기 힘든 경험 다들 있을 것이라고 생각합니다. 로그를 따로 관리하다 보면 나중에 무슨 일이 일어났는지 확인하는 데만 많은 시간을 쏟게 됩니다. 이런 복잡함을 해결해 줄 강력한 도구가 바로 ELK 스택인데요! 분산된 로그들을 한 곳으로 모아 실시간으로 분석하고, 빠르게 검색할 수 있게 해주는 ELK 스택은 로그 관리에 큰 도움이 되는 솔루션입니다.그럼 ELK를 활용해 어떻게 통합 로그 시스템을 구축할 수 있는지 알아봅시다~  ELK 스택이란?   ELK 스택은 간단히 말하면 통합 로그 관리와 데이터 분석을 위한 오픈 소스 툴 세트입니다. 또한 ELK 이름은 세 가지 핵..