기술 블로그 (Tech) | kt cloud

[기술 가이드] Kubernetes의 핵심 변화: DRA를 통한 GPU 자원 동적 할당

kt cloud Container Service팀 박지선 님 📝 요약 SUMMARY 이 글에서는 Kubernetes 1.34에서 GA로 전환된 DRA를 중심으로GPU 자원 동적 할당과 ResourceClaim 활용 방법을 다룹니다.CDI 기반 장치 주입과 MIG 연계 방식 등 GPU 운영에 필요한 주요 변화를 정리합니다.#Kubernetes #DRA #GPU스케줄링 #ResourceClaim #CDIAI/ML 워크로드가 기업 인프라의 핵심으로 자리 잡으면서, GPU 자원을 얼마나 효율적으로 스케줄링하고 관리하느냐가 경쟁력의 척도가 되고 있습니다. Kubernetes 1.34(2025년 8월 출시)는 바로 이 지점에서 중요한 전환점을 마련했습니다. Kubernetes 1.34 버전 릴리스의 주요 e..

[기술 분석] Ampere부터 Vera Rubin까지, GPU 진화가 바꾼 북미 AIDC 인프라

kt cloud DC글로벌고객팀 심재문 님 📝 요약 SUMMARY 이 글에서는 NVIDIA GPU가 Ampere부터 Vera Rubin으로 진화하면서북미 AI 데이터센터의 전력 밀도와 배전·액체냉각 인프라를 어떻게 변화시켰는지 다룹니다.고밀도 GPU 환경에 필요한 인프라 설계 방향과 설비 노후화 리스크를 정리합니다.#NVIDIA #GPU로드맵 #AIDC #전력밀도 #액체냉각1. 실리콘의 한계가 인프라의 임계점으로무어의 법칙(Moore's Law)이 종말을 고하고, 단일 칩 수준의 미세 공정 전환 속도가 둔화함에 따라 반도체 업계는 다이(Die)를 쪼개어 붙이는 칩렛(Chiplet) 구조와 극단적인 가속 컴퓨팅 아키텍처로 방향을 선회했습니다. 이 변화의 최전선에 서 있는 하드웨어가 바로 거대언어모델..

kt cloud DC동부운용팀 이민재 님 📝 요약 SUMMARY 이 글에서는 데이터센터 화재 예방을 위한 감지기·수신기·스프링클러·가스계 소화설비의 역할과 설계·시공 원리를 다룹니다.배터리 열폭주 대응과 소방설비 점검·운영을 통해 서비스 연속성을 확보하기 위한 관리 사항을 정리합니다.#데이터센터소방 #화재감지 #가스계소화설비 #준비작동식스프링클러 #배터리열폭주불은 3분 만에 잡혔지만, 서비스는 그렇지 않았습니다2022년 10월 15일 오후, 판교의 한 데이터센터 지하 3층 전기실의 UPS용 리튬이온 배터리 랙에서 스파크가 발생했습니다. 화염 자체는 비교적 빠르게 잡혔지만, 우리가 기억하는 것은 그 몇 시간이 아니라 국민 메신저가 며칠간 멈춰버린 그 주말입니다. 배터리 화재를 진압하려면 전력을 차단..

kt cloud 그룹사업기획팀 변세림 님 📝 요약 SUMMARY 이 글에서는 AI 학습·추론 트래픽의 특성과 분산 학습 네트워크, WAN·DCI 아키텍처, JCT 기반 성능 평가를 다룹니다.데이터 전송과 통신 병목을 줄이기 위한 AI 네트워크 설계의 핵심 고려사항을 정리합니다.#AI네트워크 #분산학습 #RoCEv2 #WAN #JCT엔터프라이즈 환경에서 클라우드 전환과 AI 도입 프로젝트를 진행할 때 가장 많은 예산과 논의가 집중되는 영역은 단연 컴퓨팅 인프라입니다. 고성능 GPU의 확보 수량이나 GPU 클러스터의 전체 연산 능력(TFLOPS) 등이 주로 핵심 평가지표로 다루어집니다. 그러나 시스템 아키텍처를 설계하고 클라우드 랜딩존(Landing Zone)을 구성하는 엔지니어 관점에서 볼 때, 실..

kt cloud DC서부운용팀 서동진 님 📝 요약 SUMMARY 이 글에서는 AI 데이터센터 냉방 시스템에서 발생하는 정전과 PLC 제어신호 소실의 차이,래칭릴레이를 활용한 Fail-Safe 설계를 다룹니다.냉방설비의 동시 정지를 예방하기 위한 접점 상태 유지 원리와 제어 안정성의 중요성을 정리합니다.#AI데이터센터 #데이터센터냉방 #FailSafe #래칭릴레이 #PLCAI 데이터센터, 냉방이 멈추면 안 되는 이유AI 데이터센터는 기존 데이터센터와 근본적으로 다른 부하 특성을 가진다. GPU 클러스터는 고집적으로 군집화되어 있고, 랙당 발열 밀도가 기존 서버 대비 압도적으로 높다. 이런 환경에서 냉방설비가 단 몇 분이라도 정지하면, 서버의 써멀 히트(thermal heat)는 순식간에 임계치를 넘..

kt cloud AI사업개발팀 정소라 님 📝 요약 SUMMARY 이 글에서는 피지컬 AI의 로봇 파운데이션 모델(RFM)이 요구하는학습·시뮬레이션·엣지 추론 인프라와 GPU 수요 구조를 다룹니다.제조 중심의 국내 활용 환경에서 데이터 확보와 단계별 컴퓨팅 인프라 설계가 갖는 의미를 정리합니다.#피지컬AI #로봇파운데이션모델 #GPU인프라 #로봇시뮬레이션 #엣지추론로봇은 왜 챗봇보다 GPU를 더 먹을까 — 피지컬 AI 시대의 RFM… 젠슨 황의 두 번째 방한이 남긴 신호1. 젠슨 황은 왜 7개월 만에 다시 왔나2026년 6월 초, 젠슨 황 NVIDIA CEO가 다시 한국을 찾았습니다. 지난해 10월 경주 APEC, 이른바 '깐부치킨 회동'으로 GPU 26만 장 공급을 발표한 지 약 7개월 만입니다...

kt cloud DC글로벌고객팀 심재문 님 📝 요약 SUMMARY 이 글에서는 AI 토큰 생성에 필요한 에너지와데이터센터의 고밀도 GPU 랙 전력 공급, 직접액체냉각(DLC), PUE를 다룹니다.AI 인프라의 연산 효율과 안정적인 운영을 좌우하는 전력·냉각 설계의 중요성을 정리합니다.#AI데이터센터 #데이터센터전력 #GPU전력밀도 #액체냉각 #PUE1. 디지털 언어의 화폐 '토큰'에 내재된 물리적 실체대중에게 AI는 단순히 화면 위에 텍스트를 출력하는 소프트웨어에 불과하지만, 이를 지탱하는 하드웨어 엔지니어링 관점에서 AI는 '에너지를 지능으로 변환하는 변환기'입니다. 이 변환의 최소 입자가 바로 토큰(Token)입니다.1.1 토큰화(Tokenization)와 연산 밀도언어 모델(LLM)은 텍스트..

kt cloud 📝 요약 SUMMARY 이 글에서는 DDoS 공격 시 Open vSwitch(OVS) 커널 데이터패스에서 발생하는Upcall Storm, Mask Explosion, 캐시 스래싱의 원인과 성능 저하 구조를 다룹니다.eBPF/XDP 사전 필터링과 TC·하드웨어 오프로드, 운영 지표를 활용한 대응 방향을 정리합니다.#OVS #DDoS #KernelDatapath #UpcallStorm #XDPDDoS 공격 상황에서의 성능 붕괴무작위 패턴의 DDoS 공격(예: 위조된 소스 IP 및 포트를 사용하는 SYN flooding attack)은 OVS datapath의 구조적 전제 조건을 직접적으로 타격합니다. OVS의 고성능은 트래픽의 locality에 의존하기 때문입니다. 이 locality..

kt cloud 그룹사업기획팀 변세림 님 📝 요약 SUMMARY 이 글에서는 팀이 AI 생성 코드의 일관성과 보안을 위해페르소나, SKILL.md, YAML 기반 Harness 검증 체계를 설계한 과정을 다룹니다.코드 생성 이후의 검증 병목을 줄이기 위한 팀 규칙의 명문화와 자동 검증, 사람의 최종 판단 원칙을 정리합니다.#AI생성코드 #코드거버넌스 #SKILLmd #Harness #Terraform 안녕하세요.지난 글에서 AI 자동화의 진짜 문제는 "만드는 것"이 아니라 "유지하는 것"이라는 이야기를 나누었습니다. 그리고 그 전제 조건으로, 팀의 암묵지를 먼저 명문화해야 한다는 점도 강조했었죠. 그렇다면 실제 현업에서는 이를 어떻게 구현하면 될까요? 이번 글에서는 그 고민을 팀 단위로 확장했을 ..

kt cloud DC동부운용팀 이민재 님 📝 요약 SUMMARY 이 글에서는 데이터센터 접지(Grounding)의 원리와 종류, 메쉬 접지 시공, 본딩 및 접지저항 관리 방법을 다룹니다.접지 설비의 노후화에 대비한 점검과 보강이 감전 예방 및 설비 안전에 갖는 의미를 정리합니다.#데이터센터접지 #보호접지 #메쉬접지 #등전위본딩 #접지저항감전 사고, 흔한 '저압'이 품고 있는 치명적인 위협전기는 눈에 보이지도, 냄새가 나지도 않습니다. 그래서 더욱 치명적입니다. 흔히 수만 볼트의 특고압 철탑이나 대형 변압기만 위험하다고 생각하기 쉽지만, 실제 감전 사망 사고의 절대다수는 우리가 매일 만지는 220V/380V의 '저압(Low Voltage)' 환경에서 발생합니다. 숫자가 낮다고 절대 안전한 것이 아닙..