[kt cloud 서비스개발팀 정예은 님]  OpenTelemetry를 활용한 K8S Metric, Log, Trace 데이터 통합 수집기 최근 MSA 아키텍처, Cloud Native 애플리케이션, 컨테이너 환경을 활용한 운영이 일반화되며 시스템의 복잡도가 늘어났습니다. 이에 따라 시스템들들을 관리하기 위한 Observability의 중요성 또한 대두되고 있습니다. Obeservability란, 추적(trace), 메트릭(metrics), 로그(logs)라는 세 가지 요소를 모두 포괄하는 개념입니다. 이 세 종류의 데이터를 시각화하고, 이를 적재적소에 활용하여 서비스 장애에 보다 더 빠르게 대응하고 스케일링 시기를 예측하는 등 서비스 운영에서의 편리함을 도모할 수 있습니다. kt cloud에서도 obs..

[kt cloud 플랫폼Innovation팀 강솔 님] 효율적인 gRPC 서비스 설계: Protobuf 작성 컨벤션 도입기 클라이언트와 서버는 항상 동시에 업데이트될 수 없기 때문에, 이들이 항상 동기화될 것이라는 가정은 위험합니다. 특히, Breaking Changes(호환되지 않는 변경)가 발생했을 때 클라이언트나 서버가 최신 업데이트를 반영하지 못하면 서비스 중단이나 통신 오류가 발생할 수 있습니다. 이와 관련하여 Protobuf를 정의할 때 유의할 점에 대해 살펴보고, 이를 예방하고 안정적인 서비스 운영을 위해 저희 프로젝트에서 정의한 Protobuf 작성과 관련된 컨벤션 규칙에 대해 설명하겠습니다.   1. Proto 파일 버전에 따른 메시지 내용 변경 먼저 .proto 파일이 변경될 경우 구 ..

[kt cloud Cloud운영혁신팀 김재승 님]  Slack 대나무숲 오픈소스 앱 적용기Slack API를 활용한 신규 앱 개발이 회사의 Slack 활용도를 높이고, 업무 효율을 개선할 수 있다고 생각합니다.이를 위해 Slack 대나무숲 앱을 도입한 사례를 블로그로 정리해 보려고 합니다.해당 프로젝트는 오픈소스로 아래 블로그 및 github 참고했습니다. * 임금님 귀는 당나귀 귀! 대나무숲 슬랙 앱 만들기 - 재그지그의 개발 블로그* GitHub - wormwlrm/bamboo-forest: 🎋 대나무숲 슬랙 앱 - Echo your message as anonymous on Slack! 슬랙 대나무숲이란 ?슬랙 채널에서 익명으로 메시지를 공유할 수 있도록 해주는 오픈소스 기반 앱 입니다. 사용자는..

[kt cloud Container개발팀 김유민 님] 쿠버네티스 무작정 따라하기 - #1. kt cloud 에서 K8S Cluster 만들기 초등학생 때 처음 컴퓨터를 배우면서 읽었던 무작정 따라하기 책을 떠올리며 Container, MSA, 쿠버네티스를 시작하고 싶은데 개념적으로 너무 어렵다 느끼는 분들을 위한 콘텐츠 입니다.“백문이 불여일견이요, 백견이 불여일각이며, 백각이 불여일행이라" “백번 듣고, 보고, 깨우치는 것 보다 한번 행함이 낫다” 라는 고사성어처럼 일단 무작정 따라하면서 실습을 통해 쿠버네티스와 가까워지는 시리즈입니다.이번 시리즈 동안에는 개념이나 이론적인 설명들은 최대한 배제할 예정입니다!( 혹시 개념이나 이론적인 분이 궁금하신 분들을 위해 중간 중간 관련 링크를 첨부 드릴게요,하지..

[kt cloud 플랫폼Innovation팀 강솔 님]  gRPC로 시작하는 API 개발: 첫 번째 서버와 클라이언트 구현  지금까지 gRPC의 핵심 동작 원리와 개념에 대해 학습했었습니다. 이번 포스팅에서는 gRPC 핵심 동작 원리를 바탕으로 Java와 Spring Boot를 사용해 간단한 은행 계좌 잔액 조회 서비스를 구현해보겠습니다. 이 프로젝트를 통해 서비스 스키마 정의부터 서버와 클라이언트 구현까지의 일련의 과정을 따라가며, gRPC 동작 방식을 학습합니다. 그리고 gRPC 관련 여러 가지 테스트 방법에 대해 소개하겠습니다.  1. gRPC 샘플 프로젝트 구현하기 1.1. Sample 시나리오 및 구성    1. 서비스 정의        a. Bank Service: 은행 계좌 서비스      ..

[kt cloud 플랫폼Innovation팀 강솔 님] gRPC의 내부 구조 파헤치기(2): Channel & Stub이번 포스팅에서는 gRPC의 핵심 동작 원리인 채널(Channel)과 스텁(Stub)의 개념과 역할을 살펴보겠습니다. 이를 통해 gRPC 서버와 클라이언트가 어떻게 연결되고, 클라이언트가 서버의 원격 메서드를 호출하는 과정을 명확히 이해할 수 있습니다. 1. 채널(Channel)과 스텁(stub)을 통한 서버와 클라이언트 연결하기  gRPC를 사용할 경우, 클라이언트는 서버의 원격 메서드를 마치 로컬에 있는 것처럼 호출할 수 있습니다. 이는 내부적으로 채널과 스텁이 서버와 클라이언트 간의 네트워크 연결과 호출 전달을 처리하기 때문입니다.이제 채널과 스텁이 어떻게 상호 작용하며 동작하는지에..

[kt cloud AI플랫폼팀 최지우 님]  NPU로 sLM 서빙하기: 새로운 가능성 탐구 AI 기술이 발전함에 따라, AI 모델의 효율적인 배포와 운영을 위한 새로운 처리 장치도 개발되고 있습니다. 이 과정에서 NPU(Neural Processing Unit)라는 새로운 주자가 등장했습니다. NPU는 인공 신경망 연산을 위해 특별히 설계된 프로세서로, 기존의 GPU(Graphics Processing Unit)와는 다른 방식으로 AI 워크로드를 처리합니다.NPU는 대규모 병렬 처리를 가능하게 하며, 특히 신경망 연산에 최적화되어 있습니다. 이로 인해 NPU는 적은 전력으로 높은 성능을 낼 수 있습니다. AI 모델의 학습과 추론 과정에서 NPU는 더욱 효율적인 데이터 흐름과 메모리 관리로 성능을 크게 향..