rocev2 2

[인사이트] AI 트랜스포메이션의 진짜 병목은 어디인가? 네트워크 인프라가 맞이한 거대한 지각변동

kt cloud 그룹사업기획팀 변세림 님 📝 요약 SUMMARY 이 글에서는 AI 학습·추론 트래픽의 특성과 분산 학습 네트워크, WAN·DCI 아키텍처, JCT 기반 성능 평가를 다룹니다.데이터 전송과 통신 병목을 줄이기 위한 AI 네트워크 설계의 핵심 고려사항을 정리합니다.#AI네트워크 #분산학습 #RoCEv2 #WAN #JCT엔터프라이즈 환경에서 클라우드 전환과 AI 도입 프로젝트를 진행할 때 가장 많은 예산과 논의가 집중되는 영역은 단연 컴퓨팅 인프라입니다. 고성능 GPU의 확보 수량이나 GPU 클러스터의 전체 연산 능력(TFLOPS) 등이 주로 핵심 평가지표로 다루어집니다. 그러나 시스템 아키텍처를 설계하고 클라우드 랜딩존(Landing Zone)을 구성하는 엔지니어 관점에서 볼 때, 실..

[AI 인프라] RoCEv2 기반 AI GPU 클러스터 네트워크 설계 고려사항

kt cloud Foundation플랫폼팀 서준호 님 📝 요약 SUMMARY 이 글에서는 RoCEv2 기반 AI GPU 클러스터 네트워크 설계와 무손실 이더넷 구현 고려사항을 다룹니다.안정적인 AI 인프라 운영과 비용 효율적인 확장 전략 수립의 중요성을 정리합니다.#RoCEv2 #AI_GPU_클러스터 #무손실_이더넷 #RDMA #InfiniBandkt cloud에서는 현재 인피니밴드(InfiniBand)와 같은 폐쇄적·독점적 솔루션에서 개방형 이더넷 기반인 RoCEv2로의 전환을 위한 기술 검증(PoC)이 진행 중입니다. Cloud Service Provider(CSP) 운영자 입장에서 이러한 전환은 마이크로초(μs) 단위의 Tail Latency와 네트워크 패브릭 활용도 극대화 사이의 근본적인 ..

Tech Story/AI Cloud 2026.07.16