기술 블로그 (Tech) | kt cloud

[인사이트] AI 트랜스포메이션의 진짜 병목은 어디인가? 네트워크 인프라가 맞이한 거대한 지각변동

kt cloud 그룹사업기획팀 변세림 님 📝 요약 SUMMARY 이 글에서는 AI 학습·추론 트래픽의 특성과 분산 학습 네트워크, WAN·DCI 아키텍처, JCT 기반 성능 평가를 다룹니다.데이터 전송과 통신 병목을 줄이기 위한 AI 네트워크 설계의 핵심 고려사항을 정리합니다.#AI네트워크 #분산학습 #RoCEv2 #WAN #JCT엔터프라이즈 환경에서 클라우드 전환과 AI 도입 프로젝트를 진행할 때 가장 많은 예산과 논의가 집중되는 영역은 단연 컴퓨팅 인프라입니다. 고성능 GPU의 확보 수량이나 GPU 클러스터의 전체 연산 능력(TFLOPS) 등이 주로 핵심 평가지표로 다루어집니다. 그러나 시스템 아키텍처를 설계하고 클라우드 랜딩존(Landing Zone)을 구성하는 엔지니어 관점에서 볼 때, 실..

kt cloud AI사업개발팀 정소라 님 📝 요약 SUMMARY 이 글에서는 피지컬 AI의 로봇 파운데이션 모델(RFM)이 요구하는학습·시뮬레이션·엣지 추론 인프라와 GPU 수요 구조를 다룹니다.제조 중심의 국내 활용 환경에서 데이터 확보와 단계별 컴퓨팅 인프라 설계가 갖는 의미를 정리합니다.#피지컬AI #로봇파운데이션모델 #GPU인프라 #로봇시뮬레이션 #엣지추론로봇은 왜 챗봇보다 GPU를 더 먹을까 — 피지컬 AI 시대의 RFM… 젠슨 황의 두 번째 방한이 남긴 신호1. 젠슨 황은 왜 7개월 만에 다시 왔나2026년 6월 초, 젠슨 황 NVIDIA CEO가 다시 한국을 찾았습니다. 지난해 10월 경주 APEC, 이른바 '깐부치킨 회동'으로 GPU 26만 장 공급을 발표한 지 약 7개월 만입니다...

kt cloud 📝 요약 SUMMARY 이 글에서는 DDoS 공격 시 Open vSwitch(OVS) 커널 데이터패스에서 발생하는Upcall Storm, Mask Explosion, 캐시 스래싱의 원인과 성능 저하 구조를 다룹니다.eBPF/XDP 사전 필터링과 TC·하드웨어 오프로드, 운영 지표를 활용한 대응 방향을 정리합니다.#OVS #DDoS #KernelDatapath #UpcallStorm #XDPDDoS 공격 상황에서의 성능 붕괴무작위 패턴의 DDoS 공격(예: 위조된 소스 IP 및 포트를 사용하는 SYN flooding attack)은 OVS datapath의 구조적 전제 조건을 직접적으로 타격합니다. OVS의 고성능은 트래픽의 locality에 의존하기 때문입니다. 이 locality..

kt cloud Cloud 컨설팅팀 심대섭 님 📝 요약 SUMMARY 이 글에서는 GPUaaS의 AI 학습 성능에 영향을 주는 GPU 간·서버 간 네트워크 구조와NVLink, InfiniBand, RoCE, 고속 Ethernet의 역할을 다룹니다.대규모 GPU 클러스터에서 데이터 교환 병목을 줄이기 위한 연결 구조의 중요성을 정리합니다.#GPUaaS #NVLink #InfiniBand #RoCE #GPU클러스터생성형 AI가 본격적으로 확산되면서 클라우드 인프라를 바라보는 기준도 빠르게 바뀌고 있습니다. 예전에는 CPU 기반 가상 서버를 얼마나 안정적으로 제공하느냐가 중요했다면, 지금은 대규모 AI 모델을 얼마나 빠르게 학습시키고 안정적으로 운영할 수 있느냐가 더 중요한 기준이 됐습니다. NVIDI..

kt cloud Cloud컨설팅팀 심대섭 님 📝 요약 SUMMARY 이 글에서는 장문 컨텍스트·RAG·AI 에이전트 확산으로 발생하는 AI 추론 메모리 병목과 HBM·Host DRAM·NVMe SSD·공유 스토리지 기반의 계층형 서버 아키텍처 변화를 다룹니다.GPU 중심 설계에서 데이터 이동과 메모리 효율 중심의 추론 인프라로 전환할 때 고려할 요소를 정리합니다.#AI추론 #KVCache #계층형메모리 #AI인프라 #GPU서버AI 추론 메모리 병목과 서버 변화는 2026년 AI 인프라를 이해할 때 반드시 짚어야 할 흐름입니다. AI 인프라를 이야기할 때 가장 먼저 떠오르는 요소는 여전히 GPU입니다. 대형 언어 모델 학습, 멀티모달 모델 처리, 고성능 AI 데이터센터 구축 모두 GPU 성능과 밀접..

kt cloud 마케팅커뮤니케이션팀 김지웅 님 📝 요약 SUMMARY 이 글에서는 kt cloud PLATFORM IAM의 조직·프로젝트·역할 기반 접근 권한 관리와 인증 보안 체계를 다룹니다.이를 통해 과도한 권한과 무단 접근 위험을 줄이는 클라우드 운영 방안을 정리합니다.#ktcloudPLATFORM #IAM #RBAC #클라우드보안 #접근제어안녕하세요! kt cloud 테크 마케터 김지웅입니다. 🙋‍♂️오늘은 kt cloud PLATFORM의 IAM이 클라우드 접근 권한을 어떻게 더 안전하고 정교하게 관리하는지 살펴볼게요. 클라우드 운영 환경이 커질수록 사용자와 권한 관리도 복잡해져요. 한 기업이나 기관 안에서도 부서·사업·시스템·담당자마다 필요한 접근 범위가 모두 다르기 때문이죠. 이때 ..

kt cloud Azure전환TF 이영호 님 📝 요약 SUMMARY 이 글에서는 에이전틱 AI 확산에 따른 LLM 추론 최적화와 양자화, KV 캐시, 추론 전용 칩의 변화를 다룹니다.제한된 인프라에서 성능과 비용을 함께 고려해야 하는 방향을 정리합니다.#에이전틱AI #LLM추론 #양자화 #KV캐시 #추론전용칩최근 AI 산업의 패러다임은 '학습(Training)' 단계를 넘어 '추론(Inference)'의 효율화로 완전히 넘어가고 있습니다. 이는 단순히 사용자의 질문에 한 번 답하고 끝나는 챗봇을 넘어, AI가 스스로 문맥을 파악하고 연속적인 작업을 수행하는 '에이전틱 AI(Agentic AI)' 시대가 본격적으로 열렸기 때문입니다. Deloitte에 따르면 2023년 전체 AI 컴퓨팅의 약 1/3..

kt cloud 마케팅커뮤니케이션팀 김지웅 님 📝 요약 SUMMARY 이 글에서는 공공 클라우드를 위한 kt cloud PLATFORM의 운영 구조와 확장성, 보안성, AI 인프라 기반을 다룹니다.안정적인 서비스 운영과 변화 대응을 위한 클라우드 전환 방향을 정리합니다.#ktcloud #공공클라우드 #OpenStack #Kubernetes #AI인프라안녕하세요! kt cloud 테크 마케터 김지웅 입니다. 🙋‍♂️ 오늘은 공공 클라우드의 새로운 운영 기반이 될 kt cloud PLATFORM을 소개해 드릴게요.공공 클라우드 환경의 변화공공 클라우드 환경은 이제 가상서버(VM) 중심의 안정적인 인프라 운영을 넘어, 컨테이너, AI 인프라, 데이터 기반 서비스까지 함께 고려하는 방향으로 넓어지고 있..

[ kt cloud 마케팅커뮤니케이션팀 김지웅 님 ] 📋 요약 이 글에서는 RAG 시스템의 검색 고도화와 리랭킹을 활용한 실무형 검색 파이프라인 설계를 다룹니다.정확한 근거 문서 확보가 답변 품질과 운영 안정성을 좌우한다는 점을 정리합니다.#RAG #검색고도화 #하이브리드검색 #리랭킹 #AdaptiveRetrieval 들어가며💭안녕하세요! kt cloud 테크 마케터 김지웅입니다. 🙋‍♂️ 지난 1~4편의 연재를 통해 문서를 벡터로 변환하고 빠르게 찾아내는 RAG의 기반 기술들을 차근차근 살펴봤죠. 그런데 그동안의 이야기에는 한 가지 숨은 전제가 있었어요. 바로 ‘인덱싱과 검색 방식이 한 번 정해지면 변하지 않는다’는 정적인 환경을 가정했다는 점입니다. 하지만 현업에서 직접 AI 서..

[ kt cloud 마케팅커뮤니케이션팀 김지웅 님 ] 📋 요약 이 글에서는 AI 에이전트가 실제 업무를 안전하게 수행하도록 실행 환경을 설계하는 하네스 엔지니어링을 다룹니다.모델 성능만으로 해결하기 어려운 운영 안정성과 책임 범위 설정의 중요성을 정리합니다.#하네스엔지니어링 #AI에이전트 #프롬프트엔지니어링 #컨텍스트엔지니어링 #AI운영안정성 안녕하세요! kt cloud 테크 마케터 김지웅입니다. 🙋‍♂️ AI를 활용하는 방식이 빠르게 바뀌고 있어요. 한동안 AI를 잘 쓰는 핵심은 좋은 프롬프트를 작성하는 것이었죠. 어떤 역할을 줄지, 어떤 형식으로 답하게 할지, 어떤 기준을 지키게 할지 구체적으로 지시하는 것이 중요했습니다. 그런데 최근의 AI 에이전트는 단순히 답변만 생성하지 않아..