RDMA 2

[AI인프라] 네오클라우드 GPUaaS와 고밀도 AIDC의 공학적 결합

kt cloud DC글로벌고객팀 심재문 님 📝 요약 SUMMARY 이 글에서는 GPUaaS 네오클라우드와 고밀도 AIDC가 AI 인프라의 성능·전력·냉각 요구를 충족하는 방식을 다룹니다.안정적인 AI 운영을 위한 인프라 설계의 중요성을 정리합니다.#GPUaaS #네오클라우드 #AIDC #RDMA1. ‘범용’의 시대에 ‘가속’의 시대로과거의 데이터센터가 CPU 중심의 '범용 컴퓨팅(General Purpose Computing)' 공간이었다면, 현재는 GPU 중심의 '가속 컴퓨팅(Accelerated Computing)'으로의 완전한 전환을 요구받고 있습니다. 단순히 데이터를 저장하고 웹 페이지를 띄우는 서버와 달리, 수조 개의 파라미터를 가진 AI 모델을 학습시키는 서버는 물리적 요구 조건 자체가..

카테고리 없음 2026.07.28

[AI 인프라] RoCEv2 기반 AI GPU 클러스터 네트워크 설계 고려사항

kt cloud Foundation플랫폼팀 서준호 님 📝 요약 SUMMARY 이 글에서는 RoCEv2 기반 AI GPU 클러스터 네트워크 설계와 무손실 이더넷 구현 고려사항을 다룹니다.안정적인 AI 인프라 운영과 비용 효율적인 확장 전략 수립의 중요성을 정리합니다.#RoCEv2 #AI_GPU_클러스터 #무손실_이더넷 #RDMA #InfiniBandkt cloud에서는 현재 인피니밴드(InfiniBand)와 같은 폐쇄적·독점적 솔루션에서 개방형 이더넷 기반인 RoCEv2로의 전환을 위한 기술 검증(PoC)이 진행 중입니다. Cloud Service Provider(CSP) 운영자 입장에서 이러한 전환은 마이크로초(μs) 단위의 Tail Latency와 네트워크 패브릭 활용도 극대화 사이의 근본적인 ..

Tech Story/AI Cloud 2026.07.16