기술 블로그 (Tech) | kt cloud

[비교분석] FastAPI는 충분히 빠르지 않다? Robyn과의 성능 차이 직접 비교

[ kt cloud AI플랫폼팀 최지우 님 ] 📋 요약 이 글에서는 Python 기반 API Gateway 구축 과정에서FastAPI 대신 Rust 런타임 기반의 웹 프레임워크 Robyn을 도입한 배경과 실측 성능 벤치마크 결과를 다룹니다.고부하 환경에서의 Tail Latency 안정성과 서버 생존율 차이가엔터프라이즈 AI 서비스의 인프라 선택에 실질적인 기준이 됨을 정리합니다.#Robyn #FastAPI #API Gateway #Rust런타임 #Tail Latency 최근 LLM 트렌드와 함께 AI 서비스의 아키텍처는 날이 갈수록 복잡해지고 있습니다. vLLM이나 TGI 같은 고성능 추론 엔진들은 자체적으로 API 서버 기능을 내장하고 있어 실행 즉시 모델과 통신할 수 있는 환경을 제..

[인사이트] 데이터 지형도의 재설계: 수도권 병목을 넘어 글로벌 랜딩 에지(Landing-Edge) 아키텍처로의 전환

[ kt cloud DC글로벌고객팀 심재문 님 ] 📋 요약 이 글에서는 수도권 전력망의 물리적 한계와 네트워크 Hairpinning 구조가 초래하는 비효율을 분석하고,해저케이블 육양국 인접 지역에 AI 연산 인프라를 배치하는글로벌 랜딩 에지(Landing-Edge) 아키텍처로의 전환 전략을 다룹니다.마르세유·버지니아 비치 등 글로벌 선도 사례를 근거로,대한민국이 디지털 소비국에서 고부가가치 데이터 생산 기지로 도약하기 위한인프라 재설계의 방향성과 기술적 당위성을 정리합니다.#랜딩에지 #해저케이블육양국 #AI데이터센터 #송전손실 #직결피어링 1. 전력 공급의 엔지니어링 데드라인: 수도권 집중 구조의 붕괴와 상류(Upstream) 전략수도권 데이터센터 신규 구축이 정체되는 근본 원인은 단순..

[AI활용] Claude Code 기본 구조 이해하기 — Agent · Skill · Context 개념 완전 정리

[ kt cloud FE개발팀 강민호 님 ] 📋 요약 이 글에서는 Claude Code의 핵심 구성 요소인 Agent, Skill, Context의 개념을시스템 아키텍처 관점에서 다룹니다.프롬프트 의존 방식의 한계를 넘어 AI 활용을 조직 차원에서표준화하고 안정적으로 운영할 수 있는 구조적 기반을 정리합니다.#ClaudeCode #AI에이전트 #LLMOps #프롬프트엔지니어링 #AI아키텍처 시리즈 2를 시작하며 시리즈 1에서는 왜 코딩 AI를 개인의 생산성 도구가 아니라 팀과 조직의 개발 아키텍처로 바라봐야 하는지를 다뤘다.이제 질문은 다음 단계로 넘어간다.그렇다면Claude Code는 어떤 구조를 전제로 설계된 시스템인가? 이 글의 목적은 단순하다.Claude Code에서 반복적으로 ..

[ kt cloud Cloud컨설팅팀 심대섭 님 ] 📋 요약 이 글에서는 RAG(검색 증강 생성) 기반 LLM 서비스에서 컨텍스트 품질이 답변 성능에 미치는 영향과,TopK 조정·rerank·중복 제거·질문 기반 압축 등 실무 적용 가능한 컨텍스트 최적화 기법을 다룹니다.프롬프트 튜닝보다 근거 문서의 선별·정제·구조화가답변의 신뢰성과 일관성을 결정하는 핵심 변수임을 정리합니다.#RAG #컨텍스트최적화 #rerank #TopK #query-aware-compression LLM을 서비스에 붙이면 가장 먼저 손대는 건 보통 프롬프트입니다. 그런데 운영 단계로 들어가면, 프롬프트를 아무리 다듬어도 답변 품질이 들쭉날쭉한 상황을 자주 마주합니다. 특히 RAG처럼 문서를 붙여 답하게 만드는 구조..

[ kt cloud Azure전환TF 이영호 님 ] 📋 요약 이 글에서는 ktcloud와 Microsoft Azure를 결합한 하이브리드 클라우드 환경에서의 네트워크 연결, ID 관리,데이터 배치 전략, 보안 거버넌스, 그리고 CSAP 및 CLOUD Act 등 법적 규제 대응 방안을 다룹니다.데이터 주권 확보와 글로벌 AI 혁신 활용이라는두 가지 요구를 동시에 충족하기 위한 실질적인 아키텍처 설계 방향을 정리합니다.#하이브리드클라우드 #데이터주권 #CSAP #ExpressRoute #제로트러스트 들어가며: 혁신적 미래를 위한 '두뇌'와 '금고'의 결합Cloud 3.0 시대가 그리는 혁신적인 미래는 복잡하지 않습니다. 가장 뛰어난 'AI 두뇌(Azure)'를 활용하면서도, 내 소중한 정보..

[ kt cloud FE개발팀 강민호 님 ] 📋 요약 이 글에서는 Claude Code를 팀과 조직의 개발 아키텍처에 통합하기 위한Agent·Skill·Context 구조와 AI Workflow 설계 방식을 다룹니다.AI를 개인의 프롬프트 도구가 아닌 시스템 구성 요소로 재정의함으로써,팀 단위의 일관성과 재현 가능한 개발 프로세스를 확보할 수 있는 구조적 방향을 정리합니다. #ClaudeCode #AIArchitecture #AgentWorkflow #ContextEngineering #개발자동화 1.Claude 활용 실무 기록 시리즈를 시작하며이 시리즈는 AI를 개인 생산성 도구가 아닌 팀과 조직의 개발 아키텍처로 다루는 실무 기록이다.Claude Code를 중심으로 다음 내용을 실제..

[ kt cloud DC북부운용센터 유승철 님 ] 📋 요약 이 글에서는 데이터센터 운영 환경에서 발생하는 순시 전압 강하(Voltage Sag)의 기술적 정의, 발생 원인,그리고 설계·운영 측면의 대응 전략을 다룹니다.정전 이력 없이 발생하는 장애의 근본 원인을 전력 품질 관점에서 진단함으로써,운영자가 보이지 않는 리스크를 사전에 정의하고 통제할 수 있는 실질적 기준을 정리합니다. #전압강하 #VoltageSag #전력품질 #PQM #UPS 요즘처럼 데이터센터의 규모가 커지고, 특히 엔비디아(NVIDIA) H100/B200 같은 초고밀도 GPU 서버가 주류가 된 환경에서는 과거에는 크게 신경 쓰지 않았던 '전기 품질' 문제가 운영의 핵심 리스크로 떠오르고 있습니다. 오늘은 데이터센터 운..

[ kt cloud Foundation플랫폼팀 이지은 님 ] 📋 요약 이 글에서는 GitOps 환경에서 발생하는 시크릿 보안 문제를 해결하기 위해 HashiCorp Vault를 도입하고,ESO와 CSI Provider를 활용한 두 가지 시크릿 전달 전략을 다룹니다.보안 거버넌스를 플랫폼 수준에서 내재화함으로써 개발자의 부담을 줄이고대규모 MSA 환경에서의 운영 안정성과 규정 준수 수준을 높이는 방향을 정리합니다.#HashiCorpVault #ExternalSecretsOperator #CSIProvider #시크릿관리 #보안거버넌스1. GitOps의 딜레마: 모든 것을 코드로, 하지만 비밀은 빼고?우리는 지난 아티클에서 Helm과 ArgoCD를 통해 인프라의 상태를 코드로 정의하는 선언..

[ kt cloud Cloud 컨설팅팀 심대섭 님 ] 📋 요약 이 글에서는 피지컬 AI의 핵심 개념과 현장 운영 루프, 그리고 이를 뒷받침하는AI 데이터센터(AIDC) 인프라의 설계 요건과 2026년 전망을 다룹니다.GPU 중심의 단편적 시각을 넘어 스토리지·네트워크·전력·냉각까지 통합 설계가실제 확산 속도와 운영 경쟁력을 결정짓는 핵심 변수임을 정리합니다.#피지컬AI #AIDC #AI데이터센터 #GPU인프라 #엣지AI운영 1. CES 2026에서 로봇은 왜 다시 주목받았을까요?CES 2026에서 로봇이 다시 주목받은 건, 이제 로봇이 ‘보여주는 기술’에서 ‘현장에 쓰는 기술’로 옮겨가고 있기 때문입니다. 흥미로운 장면은 일부 보도에서 자동차 회사인 현대차의 전시가 “자동차 전시”보다 ..

[ kt cloud 마케팅커뮤니케이션팀 김지웅 님 ] 📋 요약 이 글에서는 RAG 시스템의 핵심 구성 요소인 임베딩 원리, 다국어 모델 선정 전략,그리고 HNSW·DiskANN·GPU 가속·양자화 등 벡터 인덱싱 최적화 기법을 다룹니다.모델의 표현력과 인프라 검색 효율 사이의 트레이드오프를 이해하는 것이실무 RAG 시스템의 품질과 운영 비용을 동시에 결정짓는다는 점을 정리합니다. #RAG #벡터임베딩 #HNSW #DiskANN #양자화들어가며 💭안녕하세요, kt cloud 테크 마케터 김지웅 입니다. 🙋‍♂️RAG를 구축하다 보면 지난 3편에서 다룬 '청킹' 다음으로 반드시 마주하는 거대한 산이 하나 있어요.“문서를 잘게 쪼개긴 했는데, 이걸 도대체 어떤 기준으로 수치화하고(임베딩), 수억 개..