기술 블로그 (Tech) | kt cloud

[인사이트] 로봇은 왜 챗봇과 GPU 수요가 다를까? 피지컬 AI 시대의 인프라 전략

kt cloud AI사업개발팀 정소라 님 📝 요약 SUMMARY 이 글에서는 피지컬 AI의 로봇 파운데이션 모델(RFM)이 요구하는학습·시뮬레이션·엣지 추론 인프라와 GPU 수요 구조를 다룹니다.제조 중심의 국내 활용 환경에서 데이터 확보와 단계별 컴퓨팅 인프라 설계가 갖는 의미를 정리합니다.#피지컬AI #로봇파운데이션모델 #GPU인프라 #로봇시뮬레이션 #엣지추론로봇은 왜 챗봇보다 GPU를 더 먹을까 — 피지컬 AI 시대의 RFM… 젠슨 황의 두 번째 방한이 남긴 신호1. 젠슨 황은 왜 7개월 만에 다시 왔나2026년 6월 초, 젠슨 황 NVIDIA CEO가 다시 한국을 찾았습니다. 지난해 10월 경주 APEC, 이른바 '깐부치킨 회동'으로 GPU 26만 장 공급을 발표한 지 약 7개월 만입니다...

kt cloud 📝 요약 SUMMARY 이 글에서는 DDoS 공격 시 Open vSwitch(OVS) 커널 데이터패스에서 발생하는Upcall Storm, Mask Explosion, 캐시 스래싱의 원인과 성능 저하 구조를 다룹니다.eBPF/XDP 사전 필터링과 TC·하드웨어 오프로드, 운영 지표를 활용한 대응 방향을 정리합니다.#OVS #DDoS #KernelDatapath #UpcallStorm #XDPDDoS 공격 상황에서의 성능 붕괴무작위 패턴의 DDoS 공격(예: 위조된 소스 IP 및 포트를 사용하는 SYN flooding attack)은 OVS datapath의 구조적 전제 조건을 직접적으로 타격합니다. OVS의 고성능은 트래픽의 locality에 의존하기 때문입니다. 이 locality..

kt cloud Cloud 컨설팅팀 심대섭 님 📝 요약 SUMMARY 이 글에서는 GPUaaS의 AI 학습 성능에 영향을 주는 GPU 간·서버 간 네트워크 구조와NVLink, InfiniBand, RoCE, 고속 Ethernet의 역할을 다룹니다.대규모 GPU 클러스터에서 데이터 교환 병목을 줄이기 위한 연결 구조의 중요성을 정리합니다.#GPUaaS #NVLink #InfiniBand #RoCE #GPU클러스터생성형 AI가 본격적으로 확산되면서 클라우드 인프라를 바라보는 기준도 빠르게 바뀌고 있습니다. 예전에는 CPU 기반 가상 서버를 얼마나 안정적으로 제공하느냐가 중요했다면, 지금은 대규모 AI 모델을 얼마나 빠르게 학습시키고 안정적으로 운영할 수 있느냐가 더 중요한 기준이 됐습니다. NVIDI..

kt cloud Cloud컨설팅팀 심대섭 님 📝 요약 SUMMARY 이 글에서는 장문 컨텍스트·RAG·AI 에이전트 확산으로 발생하는 AI 추론 메모리 병목과 HBM·Host DRAM·NVMe SSD·공유 스토리지 기반의 계층형 서버 아키텍처 변화를 다룹니다.GPU 중심 설계에서 데이터 이동과 메모리 효율 중심의 추론 인프라로 전환할 때 고려할 요소를 정리합니다.#AI추론 #KVCache #계층형메모리 #AI인프라 #GPU서버AI 추론 메모리 병목과 서버 변화는 2026년 AI 인프라를 이해할 때 반드시 짚어야 할 흐름입니다. AI 인프라를 이야기할 때 가장 먼저 떠오르는 요소는 여전히 GPU입니다. 대형 언어 모델 학습, 멀티모달 모델 처리, 고성능 AI 데이터센터 구축 모두 GPU 성능과 밀접..

kt cloud 마케팅커뮤니케이션팀 김지웅 님 📝 요약 SUMMARY 이 글에서는 kt cloud PLATFORM IAM의 조직·프로젝트·역할 기반 접근 권한 관리와 인증 보안 체계를 다룹니다.이를 통해 과도한 권한과 무단 접근 위험을 줄이는 클라우드 운영 방안을 정리합니다.#ktcloudPLATFORM #IAM #RBAC #클라우드보안 #접근제어안녕하세요! kt cloud 테크 마케터 김지웅입니다. 🙋‍♂️오늘은 kt cloud PLATFORM의 IAM이 클라우드 접근 권한을 어떻게 더 안전하고 정교하게 관리하는지 살펴볼게요. 클라우드 운영 환경이 커질수록 사용자와 권한 관리도 복잡해져요. 한 기업이나 기관 안에서도 부서·사업·시스템·담당자마다 필요한 접근 범위가 모두 다르기 때문이죠. 이때 ..

kt cloud Azure전환TF 이영호 님 📝 요약 SUMMARY 이 글에서는 에이전틱 AI 확산에 따른 LLM 추론 최적화와 양자화, KV 캐시, 추론 전용 칩의 변화를 다룹니다.제한된 인프라에서 성능과 비용을 함께 고려해야 하는 방향을 정리합니다.#에이전틱AI #LLM추론 #양자화 #KV캐시 #추론전용칩최근 AI 산업의 패러다임은 '학습(Training)' 단계를 넘어 '추론(Inference)'의 효율화로 완전히 넘어가고 있습니다. 이는 단순히 사용자의 질문에 한 번 답하고 끝나는 챗봇을 넘어, AI가 스스로 문맥을 파악하고 연속적인 작업을 수행하는 '에이전틱 AI(Agentic AI)' 시대가 본격적으로 열렸기 때문입니다. Deloitte에 따르면 2023년 전체 AI 컴퓨팅의 약 1/3..

kt cloud 마케팅커뮤니케이션팀 김지웅 님 📝 요약 SUMMARY 이 글에서는 공공 클라우드를 위한 kt cloud PLATFORM의 운영 구조와 확장성, 보안성, AI 인프라 기반을 다룹니다.안정적인 서비스 운영과 변화 대응을 위한 클라우드 전환 방향을 정리합니다.#ktcloud #공공클라우드 #OpenStack #Kubernetes #AI인프라안녕하세요! kt cloud 테크 마케터 김지웅 입니다. 🙋‍♂️ 오늘은 공공 클라우드의 새로운 운영 기반이 될 kt cloud PLATFORM을 소개해 드릴게요.공공 클라우드 환경의 변화공공 클라우드 환경은 이제 가상서버(VM) 중심의 안정적인 인프라 운영을 넘어, 컨테이너, AI 인프라, 데이터 기반 서비스까지 함께 고려하는 방향으로 넓어지고 있..

[ kt cloud 마케팅커뮤니케이션팀 김지웅 님 ] 📋 요약 이 글에서는 RAG 시스템의 검색 고도화와 리랭킹을 활용한 실무형 검색 파이프라인 설계를 다룹니다.정확한 근거 문서 확보가 답변 품질과 운영 안정성을 좌우한다는 점을 정리합니다.#RAG #검색고도화 #하이브리드검색 #리랭킹 #AdaptiveRetrieval 들어가며💭안녕하세요! kt cloud 테크 마케터 김지웅입니다. 🙋‍♂️ 지난 1~4편의 연재를 통해 문서를 벡터로 변환하고 빠르게 찾아내는 RAG의 기반 기술들을 차근차근 살펴봤죠. 그런데 그동안의 이야기에는 한 가지 숨은 전제가 있었어요. 바로 ‘인덱싱과 검색 방식이 한 번 정해지면 변하지 않는다’는 정적인 환경을 가정했다는 점입니다. 하지만 현업에서 직접 AI 서..

[ kt cloud 마케팅커뮤니케이션팀 김지웅 님 ] 📋 요약 이 글에서는 AI 에이전트가 실제 업무를 안전하게 수행하도록 실행 환경을 설계하는 하네스 엔지니어링을 다룹니다.모델 성능만으로 해결하기 어려운 운영 안정성과 책임 범위 설정의 중요성을 정리합니다.#하네스엔지니어링 #AI에이전트 #프롬프트엔지니어링 #컨텍스트엔지니어링 #AI운영안정성 안녕하세요! kt cloud 테크 마케터 김지웅입니다. 🙋‍♂️ AI를 활용하는 방식이 빠르게 바뀌고 있어요. 한동안 AI를 잘 쓰는 핵심은 좋은 프롬프트를 작성하는 것이었죠. 어떤 역할을 줄지, 어떤 형식으로 답하게 할지, 어떤 기준을 지키게 할지 구체적으로 지시하는 것이 중요했습니다. 그런데 최근의 AI 에이전트는 단순히 답변만 생성하지 않아..

[ kt cloud Foundation플랫폼팀 서준호 님 ] 📋 요약 이 글에서는 AI 인프라 비즈니스의 핵심 경쟁력인 GPU 중심 인프라와 풀스택 최적화 전략을 다룹니다.운영 효율성과 비용 경쟁력을 높이는 실질적 방향을 정리합니다.#AI인프라 #GPU #풀스택최적화 #Neoclouds #AI데이터센터 1. Neoclouds 의 탄생Neoclouds의 목적은 단 하나, AI를 위한 최적의 환경을 제공하는 것입니다. 이들은 GPU 중심의 대규모 병렬 연산, 고대역폭 네트워킹, 저지연 스토리지, 고도화된 데이터센터 관리 기능을 갖추어 비용 효율적인 인프라 서비스를 제공합니다. 천편일률적인 옵션을 제시하는 Hyperscalers 와 달리, Neoclouds는 고객의 특수한 요구와 진화하는 ..