ai인프라 7

[트렌드 리포트] 디지털 전환 시대, 고객은 어떤 데이터센터를 찾을까?

[ kt cloud 마케팅커뮤니케이션 팀] 안녕하세요. kt cloud 마케팅커뮤니케이션팀입니다. 디지털 전환이 가속화되며, 이제 데이터센터는 단순한 IT 인프라를 넘어 기업의 비즈니스 전략을 실현하는 기반으로 자리 잡고 있습니다. 최근 kt cloud에서는 고객 및 잠재고객을 대상으로 데이터센터 이용 현황과 인프라 수요에 대한 조사를 진행했습니다. 이번 조사는 단순히 시설 이용 여부를 파악하는 것이 아닌, 기업들이 직면한 비즈니스 이슈와 데이터센터에 바라는 요소, 그리고 향후 수요 전망을 함께 살펴본다는 데에 의미가 있었습니다. 이번 조사 결과를 바탕으로 기업들이 실제로 중요하게 생각하는 데이터센터 선택의 핵심 기준을 공유합니다.기업들이 말하는 '요즘 가장 큰 고민' 조사에 응답한 기업들은 디지털 ..

[웨비나 후기] kt cloud AI 사업 및 GPUaaS 소개 웨비나

안녕하세요, kt cloud 마케팅커뮤니케이션팀입니다.  최근 AI 기술의 급격한 발전과 함께, 기업들은 AI를 도입하고 활용하는 과정에서 여러 가지 고민에 직면하게 됩니다. 인프라 구축의 복잡성, 초기 비용 부담, 안정적인 운영 환경 확보 등 다양한 과제가 뒤따르기 때문인데요. 이러한 고민을 해결하기 위해 kt cloud는 강력한 AI 인프라와 클라우드 솔루션을 기반으로 기업이 보다 쉽게 AI를 도입하고 활용할 수 있도록 돕고 있습니다. 지난 3월 20일, kt cloud는 기업들이 보다 쉽게 AI 인프라와 솔루션을 활용할 수 있도록 안내해 드리기 위해 ‘AI 사업 전략 및 방향성과 GPUaaS’를 주제로 웨비나를 개최했습니다. 이번 웨비나에서는 kt cloud의 주요 AI 사업 추진 사례와 전략을 중..

[News Digest] kt cloud, GPUaaS에 NVIDIA H200 적용하며 최적화된 고성능 AI 인프라 제공

*본 글은 kt cloud의 보도자료를 재구성한 내용입니다. [ kt cloud 마케팅커뮤니케이션 팀]   안녕하세요, kt cloud 마케팅커뮤니케이션팀 입니다!👋오늘은 정말 신나는 소식을 들고 왔어요.kt cloud가 AI 인프라를 한층 더 강화하기 위해 엔비디아의 최신 GPU인 H200을 도입하기로 했거든요!AI 시장이 폭발적으로 성장하면서 고성능 GPU에 대한 수요도 계속 늘어나고 있잖아요. 이런 상황에서 kt cloud가 세계 최고 수준의 GPU를 도입한다는 건 정말 반가운 소식이 아닐 수 없죠.특히 H200은 현존하는 GPU 중에서도 최고 성능을 자랑하는 제품이라 더욱 기대됩니다.이번 도입으로 kt cloud의 AI 인프라가 어떻게 진화하고, 서비스가 어떻게 강화될지 함께 자세히 살펴볼까요?..

News/Press Release 2025.02.25

[기술리포트] AI 시대 데이터센터의 게임체인저, 액침냉각 기술의 모든 것 - kt cloud의 PoC 결과까지

[ kt cloud DC동부운용센터 박지현 님 ] 데이터센터에 새로운 냉각 방식이 필요한 이유2022년 11월 출시된 미국의 인공지능 연구소 오픈AI(OpenAI)의 챗GPT(ChatGPT)로부터 촉발된 인공지능(AI) 혁명은 전 산업 분야로 확산되며 디지털 전환을 가속화하고 있습니다. AI의 학습과 추론을 위해서는 AI 가속기(AI accelerator)와 같은 스펙이 높은 하드웨어가 필요하게 되는데 하드웨어의 성능 향상에 따라 전력 요구 사항 또한 증가하고 있습니다. 장치에서 사용되는 전기 에너지는 열에너지로 변환되기 때문에 AI 인프라가 설치된 데이터센터에서는 열이 많이 발생하게 됩니다. AI 서비스 환경에 특화된 데이터센터(Data Center)에서는 기존의 냉각 방식인 공기 냉각 방식(Air C..

AMD MI250 GPU로 vLLM 최적화 하기 (feat. AI SERV)

[kt cloud AI플랫폼팀 최지우 님]    AMD MI250 GPU로 vLLM 최적화하기 최근 대규모 언어 모델(LLM)의 발전과 함께 인공지능 연구 및 상용화 과정에서 GPU의 수요가 급격히 증가하고 있습니다. 특히, NVIDIA는 이 분야에서 시장을 주도하며 AI 연산에 필수적인 GPU 기술을 제공하고 있지만, 수요에 비해 공급이 부족하고 가격이 높아지는 문제가 발생하고 있습니다. 이러한 상황에서 많은 기업과 연구 기관들은 더 경제적이면서도 성능이 뛰어난 대안을 모색하고 있습니다.그 중 하나가 vLLM 프로젝트입니다. vLLM은 LLM 추론 및 제공을 위한 빠르고 사용하기 쉬운 라이브러리입니다. PagedAttention을 이용하여 Key-Value(KV) Cache가 저장되는 메모리를 blo..

Tech Story/AI Cloud 2024.10.14

kt cloud, ‘오픈 인프라 서밋 아시아 2024’ 키노트 강연∙∙∙“주도적 기술 리더로 변화할 것”

▶ 오픈소스 생태계 발전 위한 공유의 장, 전 세계 클라우드 전문가 1,500여명 참석 성황▶ 안재석 본부장 키노트, ‘kt cloud 패러다임의 변화: 의존성을 벗어나 주도적인 기술 리더로’▶ “오픈소스 생태계 발전에 함께 할 수 있어 영광, 서비스 기술과 인적 역량 강화로 기술 혁신을 리딩할 것”  kt cloud(www.ktcloud.com, 대표이사 최지웅)가 글로벌 오픈소스 컨퍼런스인 ‘오픈 인프라 서밋 아시아 2024’의 헤드라인 스폰서로 참여하며 안재석 기술본부장이 키노트 강연을 진행했다고 9월 4일 밝혔다. 오픈인프라 재단 주최로 9월 3일~4일 양일 간 수원 컨벤션센터에서 열린 ‘오픈 인프라 서밋 아시아 2024’에는 전 세계 클라우드 전문가 1,500여명이 참석한 것으로 전해졌다. 현장..

News/Press Release 2024.10.02

kt cloud, 고집적, 고효율 냉각 기술 적용한 ‘백석 AI데이터센터’ 개관

▶ 고성능 컴퓨팅 및 대규모 데이터 처리 등 고객사 AI GPU 수요 대응 ▶ 백석 AIDC-수도권 DC 연계한 통합 운용체계 ‘원 DC’ 구축... 안정적 NW·전력·공조 환경 구현▶ “지속적인 AIDC 확대와 운용 효율화 집중하며 국내 최고의 인프라 서비스 환경 제공할 것" kt cloud(www.ktcloud.com, 대표이사 최지웅)가 백석 AI데이터센터(AI Data Center, 이하 AIDC)’를 개관했다고 8월 30일 밝혔다. 지난 29일 오후 진행된 개관식에는 kt cloud 김승운 IDC본부장, KT 유경탁 미디어운용센터장 등이 참석했다. 백석 AIDC는 고집적, 고효율 차세대 냉각기술 등을 적용한 AI 전용 데이터센터다. kt cloud는 고성능 컴퓨팅 및 대규모 데이터 처리를 위한 ..

News/Press Release 2024.10.02