요약 SUMMARY
랙 스케일 AI 시스템과 800V DC 배전, 액체냉각, 광통신 등 AI 데이터센터의 통합 기술 동향을 다룹니다.
개방형 아키텍처와 메모리 공유 기술을 포함해 인프라의 확장성과 운영 안정성을 높이기 위한 설계 방향을 정리합니다.
#OCPGlobalSummit2026 #AI데이터센터 #랙스케일 #800VDC #액체냉각
안녕하세요! kt cloud 마케팅커뮤니케이션팀 입니다.
AI 데이터센터의 성능을 높이려면 무엇이 가장 중요할까요? 아마 많은 분이 더 빠른 GPU와 고성능 AI 반도체를 떠올리실 텐데요. 실제로 AI 모델의 규모가 커지고 활용 범위가 넓어지면서 고성능 GPU를 확보하기 위한 경쟁도 치열해지고 있습니다.
![[현장 스케치] AI 인프라의 경쟁력, 이제는 '통합'이다! - 2026 OCP Global Summit](https://blog.kakaocdn.net/dna/ljAwh/dJMcacMiG9n/AAAAAAAAAAAAAAAAAAAAANSdlnsvJUy-VamCPTItC50xUW9kAaWoFl90Rkg9A6yk/img.jpg?credential=yqXZFxpELC7KVnFOS48ylbz2pIh7yKj8&expires=1796050799&allow_ip=&allow_referer=&signature=5A1mq1DyZ0LdssXjbAW2%2FXMghCw%3D)
하지만 아무리 뛰어난 GPU를 갖췄더라도 충분한 전력을 공급하지 못하거나 서버에서 발생하는 열을 제대로 식히지 못한다면 어떨까요? GPU 간 데이터 전송 속도가 느리거나 메모리가 부족해도 기대한 만큼의 성능을 발휘하기 어렵겠죠. 이처럼 대규모 AI 인프라에서는 개별 장비의 성능을 넘어 전력·냉각·컴퓨팅·네트워크를 얼마나 효율적으로 연결하고 운영하느냐가 중요한 경쟁력으로 떠오르고 있습니다.
이러한 AI 인프라의 최신 기술과 변화의 흐름을 직접 확인하기 위해 kt cloud 임직원들이 미국 산호세에서 열린 2026 OCP Global Summit을 찾았습니다.
이번 행사에는 AMD와 NVIDIA 등 글로벌 반도체 기업을 비롯해 데이터센터 전력·냉각, 네트워크 분야의 주요 기업들이 참가해 차세대 AI 인프라를 위한 다양한 기술과 솔루션을 선보였는데요.
과연 산호세 현장에서는 어떤 기술들이 주목받았을까요?
지금부터 kt cloud 참관단이 현장에서 직접 보고 들은 생생한 이야기와 주요 기술 인사이트를 함께 살펴보겠습니다!
글로벌 AI 인프라 혁신이 모인 곳, 2026 OCP Global Summit
지난 10월 12일부터 15일까지 미국 산호세의 San Jose McEnery Convention Center에서는 글로벌 데이터센터 및 IT 인프라 전문가들이 한자리에 모이는 2026 OCP Global Summit이 개최됐습니다.
OCP(Open Compute Project)는 2011년 Facebook(현 Meta)이 자사의 데이터센터 설계를 공개하면서 시작된 개방형 하드웨어 협력 프로젝트인데요. 현재는 글로벌 IT 기업을 비롯해 반도체·서버·네트워크·전력·냉각 분야의 다양한 기업들이 참여하며, 데이터센터 인프라의 개방형 기술과 표준을 함께 개발하는 글로벌 생태계로 발전했습니다.
올해 행사의 주제는 'Scaling Innovation for the AI Era(AI 시대를 위한 혁신의 확장)'였습니다. AI 인프라의 규모가 빠르게 커지는 가운데, 개방형 기술과 기업 간 협력을 통해 차세대 데이터센터에 필요한 혁신을 가속화하자는 메시지를 담고 있었죠.
행사 규모도 상당했는데요. 주최 측 발표에 따르면 약 1만 5,000명이 참가했으며, 22개 기술 트랙에서 총 578개 세션이 진행됐습니다. 전시장에 마련된 158개 부스에서는 최신 AI 서버부터 전력·냉각·네트워크 장비까지 차세대 데이터센터를 위한 다양한 기술과 솔루션을 직접 만나볼 수 있었습니다.
![[현장 스케치] AI 인프라의 경쟁력, 이제는 '통합'이다! - 2026 OCP Global Summit](https://blog.kakaocdn.net/dna/DiuV2/dJMcacMiG9o/AAAAAAAAAAAAAAAAAAAAACSZQe0Ub0N4rHJ5Vb1On2blpv8t00jMmbN3mO6qCR7q/img.jpg?credential=yqXZFxpELC7KVnFOS48ylbz2pIh7yKj8&expires=1796050799&allow_ip=&allow_referer=&signature=AtAevGAXMNkp92zxOt5ueqJjEMY%3D)
📍 2026 OCP Global Summit 한눈에 보기
- 공식 행사명: 2026 OCP Global Summit
- 일정: 2026년 10월 12~15일
- 장소: 미국 산호세, San Jose McEnery Convention Center
- 주제: Scaling Innovation for the AI Era
- 규모: 참가자 약 15,000명, 22개 기술 트랙, 578개 세션, 158개 전시 부스
- 주요 분야: AI 컴퓨팅, 서버·랙 아키텍처, 전력·냉각, 네트워킹, 광통신, 메모리, 개방형 하드웨어
이번 행사에서 특히 주목할 만했던 것은 AI 인프라의 경쟁력을 바라보는 관점이 달라지고 있다는 점이었습니다. 개별 GPU나 서버의 성능을 높이는 것에서 나아가, 다양한 장비와 기술을 하나의 시스템으로 통합하고 효율적으로 운영하는 방향으로 기술 개발이 확대되고 있었는데요.
이러한 변화는 글로벌 기업들의 기조연설과 기술 발표에서도 뚜렷하게 드러났습니다.
그렇다면 각 기업은 어떤 기술과 전략으로 차세대 AI 인프라를 준비하고 있을까요?
주요 발표 내용을 통해 하나씩 살펴보겠습니다.
GPU 한 개가 아닌 랙 전체를 설계한다! 랙 스케일 AI 인프라
AMD와 NVIDIA가 제시한 AI 인프라의 새로운 방향
![[현장 스케치] AI 인프라의 경쟁력, 이제는 '통합'이다! - 2026 OCP Global Summit](https://blog.kakaocdn.net/dna/clU5Pd/dJMcacMiG9r/AAAAAAAAAAAAAAAAAAAAAO0NORRkE_JVOqL1MuKDG_sQaxbYcQVQTi7Ssw6MD8JP/img.jpg?credential=yqXZFxpELC7KVnFOS48ylbz2pIh7yKj8&expires=1796050799&allow_ip=&allow_referer=&signature=O9tIRk4EKXh%2FE%2FAmIWsYc1TOpp0%3D)
먼저 살펴볼 내용은 AMD의 리사 수(Lisa Su) CEO가 진행한 'Building the Next Era of AI Infrastructure' 기조연설입니다.
AMD는 이번 발표에서 차세대 AI 인프라를 위한 다양한 기술과 전략을 소개했는데요. 특히 주목할 만했던 것은 개별 GPU나 서버를 넘어 랙(Rack) 전체를 하나의 컴퓨팅 시스템으로 설계하는 접근이었어요.
랙은 데이터센터에서 여러 대의 서버와 네트워크 장비 등을 설치하는 구조물을 말합니다. 기존에는 개별 서버의 성능과 구성을 중심으로 인프라를 설계했다면, 대규모 AI 환경에서는 GPU와 CPU뿐 아니라 네트워크, 전력, 냉각까지 함께 고려해야 하는데요. AMD가 소개한 랙 스케일 AI 플랫폼 Helios는 이러한 변화를 잘 보여주는 사례였습니다.
Helios는 고성능 GPU와 CPU, 네트워크 등을 랙 단위로 통합해 대규모 AI 학습과 추론을 지원하도록 설계된 플랫폼이에요. 단순히 개별 장비의 성능을 높이는 데 그치지 않고, 여러 장비가 하나의 시스템처럼 효율적으로 작동하도록 구성한 것이 특징이죠.
이와 함께 AMD는 에이전틱 AI(Agentic AI)에 대응하기 위한 새로운 개방형 랙 설계안인 Helion도 공개했습니다. Helion은 AI 워크로드의 특성에 따라 CPU와 GPU 자원을 유연하게 구성할 수 있도록 설계됐는데요.
최근 주목받는 AI 에이전트는 AI 모델을 실행하는 것뿐 아니라 작업 계획을 수립하고, 외부 도구를 호출하거나 여러 작업을 조율하는 등 다양한 역할을 수행하죠. 이러한 환경에서는 GPU의 연산 성능뿐 아니라 CPU의 역할도 중요해지기 때문에, AMD는 CPU 중심의 랙과 CPU·GPU를 함께 활용하는 랙 등 다양한 구성 방안을 제시했어요.
이를 통해 AI 인프라가 단순히 GPU를 더 많이 확보하는 것을 넘어, 실제 워크로드에 맞춰 컴퓨팅 자원을 유연하게 구성하는 방향으로 발전하고 있다는 점을 확인할 수 있었습니다.
![[현장 스케치] AI 인프라의 경쟁력, 이제는 '통합'이다! - 2026 OCP Global Summit](https://blog.kakaocdn.net/dna/b5yyhz/dJMcag8KPip/AAAAAAAAAAAAAAAAAAAAAB2oiLnj8pt05cOms6l5lb-jMkln5ugnAjtSTRvD6oqf/img.jpg?credential=yqXZFxpELC7KVnFOS48ylbz2pIh7yKj8&expires=1796050799&allow_ip=&allow_referer=&signature=%2Fcj%2BlSTHxbI%2BSZ0KQBHfyPbWQLE%3D)
NVIDIA의 발표에서도 비슷한 흐름을 엿볼 수 있었는데요.
NVIDIA의 이안 벅(Ian Buck)은 'AI Factories at Scale: Advancing Open Infrastructure for Agentic AI' 기조연설에서 대규모 AI 팩토리를 구축하기 위한 개방형 인프라 협력 방향을 소개했습니다.
특히 NVIDIA는 차세대 Vera Rubin 플랫폼의 랙과 컴퓨트 트레이(Compute Tray) 설계를 OCP에 제공한다고 발표해 눈길을 끌었는데요. 다양한 제조사가 NVIDIA의 MGX 개방형 아키텍처를 기반으로 AI 시스템을 개발할 수 있도록 공통된 설계 기반을 제공하려는 것이죠.
또한 MGX 1.2에서는 랙 단위의 액체냉각 연결과 전력·냉각 인터페이스 등 장비 간 호환성을 고려한 설계도 소개됐어요. 고성능 AI 시스템을 구축하기 위해서는 반도체 자체의 성능뿐 아니라 이를 뒷받침하는 데이터센터 인프라까지 함께 고려해야 한다는 점을 보여주는 사례였습니다.
AMD와 NVIDIA의 발표에서 공통적으로 주목할 부분은 AI 반도체의 성능 경쟁을 넘어, 다양한 장비와 기술을 하나의 시스템으로 통합하기 위한 협력이 확대되고 있다는 점인데요. AI 인프라의 규모가 커질수록 개별 기술의 발전만큼이나 서로 다른 장비를 효율적으로 연결하고 운영할 수 있는 개방형 아키텍처의 중요성도 높아지고 있는 것이죠.
메모리도 랙 단위로 공유한다?
![[현장 스케치] AI 인프라의 경쟁력, 이제는 '통합'이다! - 2026 OCP Global Summit](https://blog.kakaocdn.net/dna/SiBOe/dJMcag8KPiq/AAAAAAAAAAAAAAAAAAAAAFWMuyiNo-x9QQ1bCVZpKwOaNWd0CksuDzPwUO6YGTVa/img.jpg?credential=yqXZFxpELC7KVnFOS48ylbz2pIh7yKj8&expires=1796050799&allow_ip=&allow_referer=&signature=PwoIPs35nrV3Uu4C4HFiJ6%2FL%2BAU%3D)
이러한 랙 스케일 인프라의 변화는 메모리 분야에서도 확인할 수 있었습니다.
SK하이닉스는 'Introduction to Memory-centric AI Rack Systems(MARS)' 세션에서 메모리를 중심으로 컴퓨팅 자원을 연결하는 차세대 랙 스케일 AI 시스템을 소개했는데요. 특히 눈길을 끈 것은 CXL(Compute Express Link) 기반의 메모리 풀링(Memory Pooling) 기술이었어요.
일반적으로 서버는 각자 설치된 메모리를 사용하는데요. 이 때문에 어떤 서버에서는 메모리가 부족한 반면, 다른 서버에서는 일부 메모리가 충분히 활용되지 못하는 상황이 발생하기도 합니다.
메모리 풀링은 이러한 문제를 해결하기 위해 여러 메모리 자원을 공유 가능한 형태로 구성하고, 필요한 시스템에서 활용할 수 있도록 지원하는 기술이에요. 쉽게 말해 서버마다 메모리 자원을 고정적으로 사용하는 대신, 여러 시스템이 필요한 메모리를 더욱 유연하게 활용할 수 있도록 하는 방식이죠.
이번 행사에서 SK하이닉스는 여러 파트너사와 함께 AI 에이전트의 추론 과정에서 활용되는 KV 캐시(Key-Value Cache)를 공유하고 재사용하는 기술도 선보였습니다.
KV 캐시는 AI 모델이 이전 입력을 처리하면서 계산한 정보를 저장해 두었다가 이후의 추론 과정에서 재사용하는 데이터인데요. AI 모델이 처리해야 할 정보가 많아지고 여러 에이전트가 협업하는 환경에서는 이러한 데이터를 효율적으로 관리하는 것이 더욱 중요해집니다. KV 캐시를 적절히 공유하고 재사용하면 반복적인 연산과 데이터 전송에 따른 부담을 줄이는 데 도움이 될 수 있죠.
물론 CXL 기반 메모리 풀링이 GPU에 탑재된 고대역폭 메모리(HBM)를 완전히 대체한다는 의미는 아니에요. 서로 다른 메모리의 성능과 역할을 고려해 자원을 효율적으로 구성하고, 전체 시스템의 활용도를 높이려는 접근에 가깝습니다.
SK하이닉스의 발표를 통해서는 AI 인프라의 성능을 높이기 위해 연산 장치뿐 아니라 메모리의 구성과 활용 방식까지 변화하고 있다는 점을 확인할 수 있었어요.
AMD와 NVIDIA의 랙 스케일 아키텍처부터 SK하이닉스의 메모리 중심 시스템까지, 이번 행사에서는 개별 장비의 성능을 높이는 것을 넘어 랙 전체를 하나의 시스템으로 설계하고 최적화하려는 흐름이 두드러졌습니다.
메가와트급 AI 랙 시대, 전기는 DC로!
![[현장 스케치] AI 인프라의 경쟁력, 이제는 '통합'이다! - 2026 OCP Global Summit](https://blog.kakaocdn.net/dna/8VHfl/dJMcag8KPix/AAAAAAAAAAAAAAAAAAAAAC9IH5NemmTXi1h6oX1omREw3BAwPlGDOUeRzmL8xhiI/img.png?credential=yqXZFxpELC7KVnFOS48ylbz2pIh7yKj8&expires=1796050799&allow_ip=&allow_referer=&signature=HKnN%2BaxQIBOuHbg8hR7Sz3AZ6y4%3D)
앞서 살펴본 것처럼 AI 시스템의 규모가 커지고 GPU의 집적도가 높아지면서 함께 증가하는 것이 있습니다. 바로 전력 사용량인데요.
최근 AI 서버는 GPU의 소비전력이 높아지고 하나의 랙에 더 많은 장비가 집적되면서 필요한 전력도 빠르게 늘어나고 있어요. 이번 OCP Global Summit에서도 랙당 수백 kW에서 1MW 이상까지 확대되는 전력 수요에 대응하기 위한 다양한 기술들이 소개됐습니다.
그중에서도 참관단의 눈길을 끈 기술은 바로 800V DC(800V 직류 배전)였는데요.
기존 데이터센터에서는 주로 교류(AC) 전력을 공급한 뒤 여러 단계의 변환 과정을 거쳐 서버에 필요한 직류 전압으로 바꾸는 방식을 사용해 왔습니다. 하지만 AI 랙의 전력 수요가 크게 늘어나면서 기존 방식의 전력 손실과 배선 부담을 줄이기 위한 새로운 접근이 필요해지고 있죠.
여기서 중요한 것은 바로 전압과 전류의 관계입니다. 같은 양의 전력을 전달하더라도 전압을 높이면 필요한 전류를 줄일 수 있는데요. 전류가 줄어들면 배선에서 발생하는 손실을 낮추고 구리 도체의 사용량도 줄일 수 있습니다. 800V DC는 이러한 원리를 활용해 고밀도 AI 랙에 대용량 전력을 더욱 효율적으로 공급하기 위한 기술이에요.
이번 행사에서는 ABB와 Eaton 등 글로벌 전력 기업들이 이러한 800V DC 배전 기술과 차세대 전력 공급 구조를 선보였습니다. 특히 중전압 교류를 직류로 변환하는 반도체 변압기(SST, Solid State Transformer)를 활용해 전력 변환 단계를 줄이는 방안이 주목받았는데요. 기존보다 전력 공급 구조를 간소화하고 변환 과정에서 발생하는 손실을 줄여, 대규모 AI 인프라에 필요한 전력을 효율적으로 공급하려는 접근이었습니다.
기존 데이터센터도 800V DC로 전환할 수 있을까?
![[현장 스케치] AI 인프라의 경쟁력, 이제는 '통합'이다! - 2026 OCP Global Summit](https://blog.kakaocdn.net/dna/v3utn/dJMcag8KPiw/AAAAAAAAAAAAAAAAAAAAAILKAnF4hVKhOKrePGL1ZlXabAPE1-xyalNLfiPRkA9c/img.png?credential=yqXZFxpELC7KVnFOS48ylbz2pIh7yKj8&expires=1796050799&allow_ip=&allow_referer=&signature=GagTOaVmj7IhD1ET9Zbtvwlian8%3D)
그렇다면 이미 운영 중인 데이터센터에도 800V DC를 적용할 수 있을까요?
이번 행사에서 Delta Electronics는 이러한 고민에 대한 해답으로 기존 인프라를 활용한 800V DC의 단계별 도입 방안을 제시했습니다.
먼저 기존 교류 배전 구조를 유지하면서 랙 옆에 사이드카(Sidecar)라는 별도의 전력 변환 장비를 설치하고, 여기서 공급한 800V DC를 랙에서 서버에 필요한 전압으로 낮춰 사용하는 방식인데요. 이후에는 800V DC를 직접 입력받는 서버를 도입하고, 장기적으로는 수전 측부터 직류 전력을 공급하는 구조로 확장하는 방안도 소개됐습니다.
기존 설비를 한 번에 교체하는 대신, 현재 운영 중인 인프라와의 호환성을 고려하면서 단계적으로 전환할 수 있다는 점이 인상적이었어요.
물론 실제 데이터센터에 적용하기 위해서는 해결해야 할 과제도 있습니다. 특히 800V와 같은 고전압 직류는 감전과 아크(Arc, 전기적 불꽃)에 대한 안전 대책이 중요한데요. 직류는 교류와 달리 주기적으로 전류가 0이 되는 구간이 없어, 고장 발생 시 전류와 아크를 신속하고 안전하게 차단할 수 있는 기술이 필요합니다.
이에 이번 행사에서는 반도체 차단기(SSCB)를 비롯한 보호 장치와 안전 기준, 서로 다른 제조사의 장비를 안정적으로 연결하기 위한 상호운용성 확보 방안도 함께 논의됐습니다.
이처럼 800V DC는 단순히 전압을 높이는 것을 넘어 AI 데이터센터의 전력 공급 구조부터 안전과 운영 방식까지 함께 변화시키는 기술이라는 점을 확인할 수 있었어요!
뜨거워지는 AI 서버, 열은 물로!
![[현장 스케치] AI 인프라의 경쟁력, 이제는 '통합'이다! - 2026 OCP Global Summit](https://blog.kakaocdn.net/dna/yFYkG/dJMcag8KPiy/AAAAAAAAAAAAAAAAAAAAADBPmtnnxZJgvRZD5MSMYqRcvsjqW_xBsObvCZgysuKV/img.png?credential=yqXZFxpELC7KVnFOS48ylbz2pIh7yKj8&expires=1796050799&allow_ip=&allow_referer=&signature=WeOZWBcvxL8aWdRt%2BuGQfZTcLeU%3D)
앞서 살펴본 것처럼 AI 랙에 필요한 전력이 증가하면서 함께 해결해야 할 과제가 있습니다. 바로 서버에서 발생하는 열을 어떻게 처리할 것인가 하는 문제인데요.
GPU의 소비전력이 높아지고 랙 내부에 더 많은 장비가 집적되면서 기존의 공기를 이용한 냉각 방식만으로는 발열을 처리하기 어려워지고 있어요. 이에 따라 냉각액을 활용해 서버의 열을 효과적으로 제거하는 액체냉각(Liquid Cooling) 기술의 중요성도 커지고 있습니다.
이번 OCP Global Summit 전시장에서도 다양한 액체냉각 장비를 만나볼 수 있었는데요. 그중에서도 참관단의 눈길을 끈 것은 Delta Electronics가 선보인 3MW급 GoCool 액체냉각 시스템이었습니다.
이 시스템에는 냉각액 분배 장치인 CDU(Coolant Distribution Unit)와 모듈형 배관 등이 적용됐는데요. CDU는 데이터센터 시설의 냉각 계통과 서버 측 냉각 계통을 연결하고, 냉각액의 온도와 유량, 압력 등을 관리하는 핵심 장비입니다.
대표적인 액체냉각 방식인 D2C(Direct-to-Chip)는 GPU나 CPU에 부착된 콜드플레이트(Cold Plate)에 냉각액을 순환시켜 열을 제거하는 방식이에요. 이때 CDU는 서버에 냉각액이 안정적으로 공급될 수 있도록 돕는 역할을 하죠.
특히 이번 행사에서는 냉각 장비의 용량을 확대하는 것뿐 아니라, 실제 데이터센터에서 얼마나 안정적으로 운영하고 유지보수할 수 있는가도 중요한 화두로 다뤄졌습니다.
액체냉각, 잘 식히는 것만큼 안정적인 운영도 중요하다
![[현장 스케치] AI 인프라의 경쟁력, 이제는 '통합'이다! - 2026 OCP Global Summit](https://blog.kakaocdn.net/dna/AbrSU/dJMcag8KPiB/AAAAAAAAAAAAAAAAAAAAABGziKdBc-vUyj4p9v-RkxnUCjAJISjQJ9R9CLF_c5-S/img.png?credential=yqXZFxpELC7KVnFOS48ylbz2pIh7yKj8&expires=1796050799&allow_ip=&allow_referer=&signature=wALPKSQHLOwHpan8k4cfofaeJas%3D)
실제로 Delta Electronics와 NVIDIA가 공동으로 진행한 '800 VDC Power and Cooling Solutions for Data Centers' 세션에서도 이러한 흐름을 확인할 수 있었는데요. 고밀도 AI 인프라에 대응하기 위한 전력 공급 기술과 함께, 냉각 시스템의 안정성과 유지보수 편의성을 높이기 위한 설계가 소개됐습니다.
특히 Delta Electronics는 약 2.5MW의 냉각 용량을 지원하는 800V DC 기반 In-row CDU를 선보였어요. 분당 약 4,000L의 냉각액을 순환시킬 수 있는 대용량 장비였지만, 주목할 부분은 단순히 냉각 용량이 크다는 점만은 아니었습니다.
액체냉각은 냉각액이 지속적으로 순환해야 하기 때문에 펌프나 배관에 문제가 생기면 서버 운영에도 영향을 줄 수 있는데요. 이를 고려해 펌프와 필터, 센서 등 주요 부품을 이중화하고, 시스템을 중단하지 않고도 교체할 수 있는 핫스왑(Hot-swap) 구조를 적용한 것이 인상적이었습니다. 냉각 성능을 높이는 것만큼 장애나 정비로 인한 영향을 최소화하는 것도 중요하다는 점을 보여주는 사례였죠.
또 하나 흥미로웠던 점은 액체냉각의 적용 범위가 GPU와 CPU를 넘어 전력 공급 장치로까지 확대되고 있다는 것이었어요. 대용량 전력 공급 장치는 높은 효율을 갖추더라도 처리하는 전력 자체가 크기 때문에 상당한 열이 발생할 수 있는데요. 이번 발표에서는 이러한 발열과 냉각팬의 전력 소비를 줄이기 위해 전력 공급 장치에도 액체냉각을 적용하는 방향이 소개됐습니다.
이처럼 AI 데이터센터의 고밀도화가 진행되면서 냉각 기술도 단순히 서버의 열을 제거하는 것을 넘어, 전력 공급 장치를 포함한 인프라 전반의 발열과 운영 효율을 함께 고려하는 방향으로 발전하고 있었습니다.
이 밖에도 이번 행사에서는 서버를 절연성 냉각액에 직접 담그는 액침냉각(Immersion Cooling)에 관한 논의도 이어졌는데요. 액침냉각은 냉각액이 서버 부품과 직접 접촉하는 만큼 소재 간 적합성은 물론, 장비를 꺼낸 뒤 세척하고 정비하는 절차도 중요합니다. 이에 실제 데이터센터에서 안정적으로 활용하기 위한 운영 기준과 유지보수 방안도 함께 다뤄졌어요.
액체냉각 기술이 냉각 성능을 높이는 데 그치지 않고, 운영 안정성과 유지보수 편의성까지 함께 고려하는 방향으로 발전하고 있다는 점을 확인할 수 있었습니다.
GPU를 연결하는 새로운 방식, 데이터는 빛으로!
![[현장 스케치] AI 인프라의 경쟁력, 이제는 '통합'이다! - 2026 OCP Global Summit](https://blog.kakaocdn.net/dna/b9Icta/dJMcabfdnAI/AAAAAAAAAAAAAAAAAAAAAJVDai2QeYrW8s1Y-RNpLZ6YHdIO3dMhj6XF7RYgxevk/img.png?credential=yqXZFxpELC7KVnFOS48ylbz2pIh7yKj8&expires=1796050799&allow_ip=&allow_referer=&signature=e%2FUUZrxcNKyGPwxL%2FJkUsaduCSc%3D)
이번 OCP Global Summit에서는 수많은 GPU 사이에서 대규모 데이터를 빠르고 효율적으로 전달하기 위한 차세대 광통신 기술도 주요하게 다뤄졌는데요.
AI 데이터센터의 규모가 커지고 GPU 간 통신량이 증가하면서 네트워크의 중요성도 더욱 높아지고 있습니다. 특히 기존의 구리 기반 전기 신호 연결은 전송 속도가 높아질수록 신호 손실과 전력 소비, 전송 거리 측면에서 제약이 발생할 수 있는데요. 이러한 문제에 대응하기 위한 기술로 참관단의 눈길을 끈 것은 NPO(Near-Packaged Optics)와 CPO(Co-Packaged Optics)였습니다.
기존의 플러거블(Pluggable) 광모듈은 네트워크 장비 전면에 광모듈을 장착하고, 내부 칩에서 광모듈까지 전기 신호를 전달하는 방식입니다. 반면 NPO는 광엔진을 칩 가까이에 배치하고, CPO는 광엔진을 칩과 같은 패키지에 통합하는 구조인데요.
두 기술 모두 칩과 광엔진 사이에서 전기 신호가 이동하는 거리를 줄여 신호 손실과 전력 소비를 낮추려는 접근이에요. 쉽게 말해 네트워크 장비 내부에서 전기 신호에 의존하는 구간을 줄이고, 빛을 활용해 데이터를 더욱 효율적으로 전달하려는 것이죠.
광통신, 속도만큼 중요한 것은 안정성
![[현장 스케치] AI 인프라의 경쟁력, 이제는 '통합'이다! - 2026 OCP Global Summit](https://blog.kakaocdn.net/dna/BRWt4/dJMcag8KPiF/AAAAAAAAAAAAAAAAAAAAANFTTL27OVO8yoR9f4JKHkDxk_AQsod_I636yKK65VYT/img.png?credential=yqXZFxpELC7KVnFOS48ylbz2pIh7yKj8&expires=1796050799&allow_ip=&allow_referer=&signature=S6EMuLuAM98iZ%2BCqTTJg5ywSvzI%3D)
그렇다면 광통신 기술을 적용하기만 하면 더 빠르고 효율적인 AI 네트워크를 구축할 수 있을까요? 실제 데이터센터에 적용하기 위해서는 해결해야 할 과제도 적지 않습니다.
이번 행사에서 광통신 전문기업 Lumentum은 차세대 AI 네트워크에 필요한 고출력 레이저 광원 기술과 관련 기술 과제를 소개했는데요. 광통신에서는 전기 신호를 광신호로 변환하는 광엔진뿐 아니라, 빛을 안정적으로 공급하는 레이저 광원도 중요한 역할을 합니다.
특히 흥미로웠던 것은 광원을 어디에 배치하느냐에 따라 장비의 구조와 운영 방식까지 달라질 수 있다는 점이었어요.
광원을 광엔진 내부에 배치하는 내장형 광원(ILS, Integrated Laser Source)은 연결 구조를 간소화할 수 있지만, 열 관리나 고장 발생 시 유지보수가 어려워질 수 있습니다. 반면 외부 광원(ELS, External Laser Source)은 광원의 온도를 독립적으로 관리하고 교체하기에 유리하지만, 추가적인 공간과 연결 부품이 필요하다는 차이가 있죠.
이처럼 이번 행사에서는 광통신의 전송 성능을 높이는 기술과 함께, 실제 장비에 적용했을 때 발생할 수 있는 발열과 신뢰성, 유지보수 문제까지 폭넓게 다뤄졌습니다. 광통신 기술 역시 단순히 속도를 높이는 것을 넘어 안정적인 운영까지 고려하는 방향으로 발전하고 있다는 점을 확인할 수 있었어요.
네트워크에서도 확대되는 개방형 표준
![[현장 스케치] AI 인프라의 경쟁력, 이제는 '통합'이다! - 2026 OCP Global Summit](https://blog.kakaocdn.net/dna/cufS1s/dJMcag8KPiM/AAAAAAAAAAAAAAAAAAAAACDcABMJ75pY1Unh1B6fZsQvvcOG4-O-808GOjvPwtUt/img.png?credential=yqXZFxpELC7KVnFOS48ylbz2pIh7yKj8&expires=1796050799&allow_ip=&allow_referer=&signature=A3D28qKJ6NIJNcxFtztkxGaMCks%3D)
광통신 기술의 발전과 함께 주목할 만했던 또 하나의 변화는 개방형 네트워크 기술과 표준의 확대였습니다.
이번 행사에서 Meta는 AI 인프라의 확장성을 높이기 위한 개방형 네트워킹 기술을 소개했는데요. 대표적으로 ESUN(Ethernet for Scale-Up Networking)과 OSPA(Open Switch Platform Architecture)가 주요 기술로 다뤄졌습니다.
ESUN은 여러 AI 가속기를 긴밀하게 연결하는 스케일업(Scale-up) 네트워크에 이더넷 기술을 활용하기 위한 개방형 규격입니다. 기존에 특정 제조사의 전용 연결 기술에 의존하던 영역에서도 개방형 네트워크를 활용할 수 있도록 하려는 접근이죠.
함께 소개된 OSPA는 네트워크 스위치의 플랫폼 구조에 공통된 설계 기준을 마련하기 위한 프로젝트인데요. 이번 행사에서는 Meta와 Microsoft, Alibaba 등이 공동으로 추진한 OSPA 1.0 초안이 OCP에 제출되며 개방형 네트워크 생태계를 확대하려는 움직임을 보여줬습니다.
이러한 기술들이 주목받는 이유는 무엇일까요? AI 인프라의 규모가 커질수록 다양한 제조사의 장비를 연결하고 확장할 수 있는 유연성이 중요해지기 때문입니다. 공통된 기술과 규격을 활용하면 특정 제조사에 대한 의존도를 낮추고, 인프라를 구성할 때 선택의 폭을 넓히는 데 도움이 될 수 있죠.
물론 개방형 규격이 마련됐다고 해서 모든 장비를 곧바로 자유롭게 연결할 수 있는 것은 아닙니다. 실제 데이터센터에 적용하기 위해서는 장비 간 호환성 검증과 성능 최적화, 안정성 확보 등의 과정이 필요하기 때문인데요.
그럼에도 이번 행사에서는 광통신을 통한 데이터 전송 효율 개선과 개방형 표준을 통한 인프라 확장성 확보가 차세대 AI 네트워크의 중요한 발전 방향이라는 점을 확인할 수 있었습니다.
산호세에서 확인한 AI 데이터센터의 새로운 경쟁력
![[현장 스케치] AI 인프라의 경쟁력, 이제는 '통합'이다! - 2026 OCP Global Summit](https://blog.kakaocdn.net/dna/dW0gHO/dJMcag8KPiK/AAAAAAAAAAAAAAAAAAAAAGu22uuUAmK62qm0wC4qBmgjdB1epX-aF8d4c5ofzoRD/img.jpg?credential=yqXZFxpELC7KVnFOS48ylbz2pIh7yKj8&expires=1796050799&allow_ip=&allow_referer=&signature=m8e9fFlVwPZQknqySdHinRn5Cjc%3D)
이번 2026 OCP Global Summit에서는 AI 데이터센터의 미래를 이끌 다양한 기술과 변화의 흐름을 만나볼 수 있었습니다. AMD와 NVIDIA가 선보인 랙 스케일 AI 시스템부터 SK하이닉스의 메모리 기술, 800V DC 전력 인프라와 액체냉각, 차세대 광통신까지 여러 분야에서 흥미로운 기술들이 소개됐는데요.
특히 인상적이었던 것은 각각의 기술이 독립적으로 발전하는 것이 아니라, 서로 긴밀하게 연결되어 있다는 점이었어요.
GPU의 성능과 집적도가 높아지면 더 많은 전력이 필요하고, 그만큼 증가하는 열을 처리하기 위해 냉각 방식도 달라져야 합니다. 여기에 GPU 간 통신량이 늘어나면서 네트워크 기술도 발전하고, 복잡해지는 AI 워크로드에 대응하기 위한 메모리와 컴퓨팅 아키텍처의 변화도 함께 이뤄지고 있죠.
이처럼 AI 데이터센터의 규모가 커질수록 개별 기술의 발전뿐 아니라, 서로 다른 기술과 장비를 유기적으로 연결하고 함께 최적화하는 것이 더욱 중요해지고 있었습니다.
물론 이번 행사에서 소개된 모든 기술이 곧바로 실제 데이터센터에 적용되는 것은 아닙니다. 새로운 기술을 도입하려면 기존 인프라와의 호환성부터 안전성, 운영 안정성, 비용까지 여러 요소를 충분히 검토해야 하는데요. 그럼에도 이번 산호세 현장에서는 차세대 AI 데이터센터가 어떤 방향으로 발전하고 있는지 구체적인 기술과 사례를 통해 엿볼 수 있었어요.
결국 AI 데이터센터의 경쟁력이 개별 장비의 성능을 넘어, 전력·냉각·컴퓨팅·네트워크를 얼마나 효율적으로 통합하고 안정적으로 운영하느냐에 달려 있다는 것이었습니다.

kt cloud 참관단이 산호세 현장에서 전해온 이야기들, 여러분도 흥미롭게 읽으셨나요?
이번 현장 스케치를 통해 AI 데이터센터의 기술이 어떻게 변화하고 있는지, 또 글로벌 기업들은 어떤 미래를 준비하고 있는지 함께 살펴볼 수 있는 시간이었기를 바랍니다.
앞으로도 국내외 다양한 기술 현장에서 발견한 새로운 기술과 생생한 인사이트를 여러분께 전해드리겠습니다.
그럼, 다음 현장 스케치에서 또 만나요!
🧐 현장에서 담아온 한마디
⚡ 박지현 님 (DC동부운용팀)
이번 행사에서는 AI 데이터센터의 전력과 냉각, 광통신 기술이 함께 변화하고 있다는 점이 특히 인상 깊었어요. 800V DC 배전과 대용량 CDU, NPO·CPO 같은 기술들을 살펴보면서 고밀도 AI 인프라를 운영하기 위해 준비해야 할 부분이 생각보다 많다는 걸 느꼈습니다. 새로운 기술의 성능도 중요하지만, 실제 데이터센터에서 안전하고 안정적으로 운영할 수 있도록 설계하는 역량이 더욱 중요해질 것 같습니다.
↗️ 김주성 님 (기술전략팀)
이번 OCP Global Summit에서 가장 흥미로웠던 것은 AI 인프라의 경쟁력이 개별 반도체의 성능을 넘어 랙과 데이터센터 전체의 통합 역량으로 확대되고 있다는 점이었어요. 특히 글로벌 기업들이 개방형 표준을 중심으로 협력을 확대하면서 인프라를 더욱 유연하고 빠르게 구축하려는 움직임이 인상적이었습니다. 앞으로는 다양한 기술을 얼마나 효율적으로 연결하고 확장할 수 있는지가 중요한 경쟁력이 될 것이라고 생각합니다.

관련 / 출처 REFERENCES
- https://www.opencompute.org/events/ocp-summit/2026-ocp-global-summit/
- https://www.opencompute.org/events/ocp-summit/2026-ocp-global-summit/recorded-content/
- https://newsroom.amd.com/news/open-rack-blueprint-scale-agentic-ai/
- https://blogs.nvidia.com/blog/ocp-global-summit-vera-rubin-scale-ai-factories/
- https://news.skhynix.com/en/ocp-global-summit-2026/
- https://www.delta-americas.com/en-US/news/40271
- https://engineering.fb.com/2026/10/26/open-source/ocp-summit-2026-meta-networking-talks/
'kt cloud Story > Tech Events' 카테고리의 다른 글
| [현장 스케치] AI 에이전트 시대, 사이버보안은 어떻게 달라지고 있을까? - GovWare 2026 (0) | 2026.11.04 |
|---|---|
| [현장 스케치] AI 데이터센터의 미래를 만나다! - Tech Week Singapore 2026 (0) | 2026.10.21 |
| [현장 스케치] AI 인프라의 경쟁력은 '운영' - KubeCon China 2026 (2) | 2026.10.14 |
| [현장 스케치] 당신의 비즈니스를 위한 AX, kt cloud summit 2026 (0) | 2026.09.23 |
| [kt cloud summit 2026] AX에 필요한 핵심 기술과 구축·운영 경험을 한자리에서 만나보세요 (0) | 2026.08.24 |