액체냉각 2

[AI인프라] AI 데이터센터(AIDC)는 무엇이 다른가: GPU 전력과 운영 전환

[ kt cloud DC북부운용팀 유승철 님 ] 📋 요약 이 글에서는 AI 데이터센터의 전력 변동, 고밀도 발열, 액체 냉각 전환과 운영 방식 변화를 다룹니다.안정적인 AI 인프라 운영을 위해 설계와 관리 기준이 달라져야 함을 정리합니다.#AI데이터센터 #AIDC #GPU #액체냉각 #전력품질 1. 데이터센터의 패러다임 시프트불과 몇 년 전만 해도 데이터센터(Legacy DC)는 '안정적인 서버 호텔'이었습니다. 서버들이 입주하여 24시간 365일 중단 없이 가동되는 것이 지상 과제였습니다. 하지만 생성형 AI(GenAI)의 폭발적인 성장과 함께 데이터센터는 이제 거대한 '초고성능 연산 공장'으로 변모하고 있습니다. 엔비디아(NVIDIA)의 H100, B200과 같은 고성능 GPU가 랙..

[기술리포트] AI 시대 데이터센터의 게임체인저, 액침냉각 기술의 모든 것 - kt cloud의 PoC 결과까지

[ kt cloud DC동부운용센터 박지현 님 ] 데이터센터에 새로운 냉각 방식이 필요한 이유2022년 11월 출시된 미국의 인공지능 연구소 오픈AI(OpenAI)의 챗GPT(ChatGPT)로부터 촉발된 인공지능(AI) 혁명은 전 산업 분야로 확산되며 디지털 전환을 가속화하고 있습니다. AI의 학습과 추론을 위해서는 AI 가속기(AI accelerator)와 같은 스펙이 높은 하드웨어가 필요하게 되는데 하드웨어의 성능 향상에 따라 전력 요구 사항 또한 증가하고 있습니다. 장치에서 사용되는 전기 에너지는 열에너지로 변환되기 때문에 AI 인프라가 설치된 데이터센터에서는 열이 많이 발생하게 됩니다. AI 서비스 환경에 특화된 데이터센터(Data Center)에서는 기존의 냉각 방식인 공기 냉각 방식(Air C..