기술 블로그 (Tech) | kt cloud

kt cloud Cloud컨설팅팀 심대섭 님 📝 요약 SUMMARY 이 글에서는 장문 컨텍스트·RAG·AI 에이전트 확산으로 발생하는 AI 추론 메모리 병목과 HBM·Host DRAM·NVMe SSD·공유 스토리지 기반의 계층형 서버 아키텍처 변화를 다룹니다.GPU 중심 설계에서 데이터 이동과 메모리 효율 중심의 추론 인프라로 전환할 때 고려할 요소를 정리합니다.#AI추론 #KVCache #계층형메모리 #AI인프라 #GPU서버AI 추론 메모리 병목과 서버 변화는 2026년 AI 인프라를 이해할 때 반드시 짚어야 할 흐름입니다. AI 인프라를 이야기할 때 가장 먼저 떠오르는 요소는 여전히 GPU입니다. 대형 언어 모델 학습, 멀티모달 모델 처리, 고성능 AI 데이터센터 구축 모두 GPU 성능과 밀접..

kt cloud 마케팅커뮤니케이션팀 📝 요약 SUMMARY kt cloud summit 2026에서는 AIDC부터 Cloud Platform, AI Factory, DR, 보안, 다양한 적용 사례까지 AI 서비스를 안정적으로 운영하고 확장하는 데 필요한 인프라와 기술을 한자리에서 만나볼 수 있습니다.지금 사전 등록하고, AX 시대를 뒷받침하는 kt cloud의 핵심 기술과 구축·운영 경험을 현장에서 만나보세요. #ktcloud #ktcloudsummit #AX #AIDC #AI인프라 #클라우드콘퍼런스 안녕하세요. AX Platform Company, kt cloud입니다. AI가 산업과 비즈니스 전반으로 확산되면서, 이제는 AI 서비스를 얼마나 안정적으로 운영하고 확장할 수 있는지가 중요한 경쟁력..

kt cloud Azure전환TF 이영호 님 📝 요약 SUMMARY 이 글에서는 에이전틱 AI 확산에 따른 LLM 추론 최적화와 양자화, KV 캐시, 추론 전용 칩의 변화를 다룹니다.제한된 인프라에서 성능과 비용을 함께 고려해야 하는 방향을 정리합니다.#에이전틱AI #LLM추론 #양자화 #KV캐시 #추론전용칩최근 AI 산업의 패러다임은 '학습(Training)' 단계를 넘어 '추론(Inference)'의 효율화로 완전히 넘어가고 있습니다. 이는 단순히 사용자의 질문에 한 번 답하고 끝나는 챗봇을 넘어, AI가 스스로 문맥을 파악하고 연속적인 작업을 수행하는 '에이전틱 AI(Agentic AI)' 시대가 본격적으로 열렸기 때문입니다. Deloitte에 따르면 2023년 전체 AI 컴퓨팅의 약 1/3..

kt cloud 마케팅커뮤니케이션팀 📝 요약 SUMMARY ‘기술이 장르가 되는 곳, kt cloud의 케클러 인터뷰 시리즈’는 케클러들의 목소리를 통해 고객의 다음 문제를 먼저 고민하는 kt cloud의 기술적 지향점과 해법을 전합니다.네 번째 호에서는 kt cloud 데이터센터 사업을 총괄하는 박재우 상무를 만났습니다. AI 시대에 데이터센터의 기준은 어떻게 달라졌는지, 고객마다 다른 AI *워크로드를 수용하려면 무엇을 설계해야 하는지, 그리고 kt cloud가 어떤 AI 데이터센터를 만들어가고 있는지를 담았습니다. #ktcloud #AIDC #AI데이터센터 #AI #AI인프라 #GPU 안녕하세요. kt cloud 마케팅커뮤니케이션팀입니다. AI가 기업의 핵심 서비스로 자리 잡으면서 데이터센터..

kt cloud DC동부운용팀 이민재 님 📝 요약 SUMMARY 이 글에서는 데이터센터 냉동기의 작동 원리와 중앙 냉수식 냉방 구조, 냉각 효율을 높이기 위한 운용 포인트를 다룹니다.고밀도 AI 인프라 환경에서 열 관리가 안정적인 서비스 운영과 장애 예방에 미치는 의미를 정리합니다.#데이터센터냉각 #냉동기 #Chiller #냉수식냉방 #냉각효율뜨거워지는 칩, 한계에 다다른 공랭식의 시대최근 AI 열풍과 고성능 컴퓨팅(HPC) 수요의 폭발적인 증가는 데이터센터(DC) 내부의 풍경을 완전히 바꿔놓고 있습니다. 과거 랙(Rack)당 2~5kW 수준이던 전력량은 이제 10kW를 훌쩍 넘어, GPU 서버로 꽉 채워진 40~100kW 이상의 고밀도 랙이 흔해졌습니다. CPU와 GPU의 TDP(열 설계 전력..

kt cloud 마케팅커뮤니케이션팀 📝 요약 SUMMARY 이번 kt cloud 웨비나에서는 공공·엔터프라이즈 환경의 실제 사례를 기반으로, 고가용성(HA) 및 DR 구성 전략, 그리고 Multi-AZ 기반의 안정적인 플랫폼 운영 체계를 공유했습니다. 안녕하세요, kt cloud 마케팅커뮤니케이션팀입니다. AI·클라우드 환경에서는 장애 대응보다 ‘중단되지 않는 구조’를 설계하는 역량이 더욱 중요해지고 있습니다. 특히 시스템이 복잡해질수록 장애 대응에 대한 실무진의 부담은 커지고, 서비스 중단에 대한 조직의 리스크 역시 높아질 수 밖에 없습니다. kt cloud는 이러한 고민을 해결하기 위해, 지난 7월 7일 온라인 세미나를 통해 안정적인 서비스 운영을 위한 클라우드 아키텍처 방향을 소개했습..

kt cloud AI사업개발팀 정소라 님 📝 요약 SUMMARY 이 글에서는 공공기관의 AI 전환 준비도를 점검하기 위한 AX Readiness Check와 7대 진단 영역을 다룹니다.체계적 진단을 통해 무분별한 도입 위험을 줄이고 실행 가능한 전환 방향을 정리합니다.#AX #AI전환 #AXReadinessCheck #공공클라우드 #AI거버넌스공공기관 AI 전환(AX), 어디서부터 시작할지 막막하시다면?🤔 kt cloud가 답을 찾아드립니다!안녕하세요, kt cloud AI사업개발팀입니다! 👋요즘 뉴스나 기사를 보면 온통 'AI(인공지능)' 이야기뿐이죠? 챗GPT의 등장 이후 민간 기업들은 앞다투어 AI를 도입하며 혁신을 거듭하고 있습니다. 이제 AI는 선택이 아닌 생존을 위한 필수 요건이 되..

내용이 보이지 않으면 여기를 클릭하여 확인하세요. "> 내용이 보이지 않으면 여기를 클릭하여 확인하세요.

📋요약이번 kt cloud 웨비나에서는 공공·엔터프라이즈 환경의 실제 사례를 기반으로,고가용성(HA) 및 DR 구성 전략, 그리고 Multi-AZ 기반의 안정적인 플랫폼 운영 체계를 공유합니다. 안녕하세요. kt cloud 마케팅커뮤니케이션팀입니다. AI·클라우드 환경에서는 장애 대응보다 ‘중단되지 않는 구조’를 설계하는 역량이 더욱 중요해지고 있습니다. 특히 시스템이 복잡해질수록 장애 대응에 대한 실무진의 부담은 커지고,서비스 중단에 대한 조직의 리스크 역시 높아질 수 밖에 없습니다.이러한 고민을 해결하기 위해, kt cloud가 오는 7월 7일(화) 오후 2시부터 온라인 세미나를 통해 안정적인 서비스 운영을 위한 클라우드 아키텍처 방향을 소개합니다. 본 세미나에서는 공공·엔터프라이즈 환경의 실제 ..

[ kt cloud 마케팅커뮤니케이션팀 김지웅 님 ] 📋 요약 이 글에서는 AI 에이전트가 실제 업무를 안전하게 수행하도록 실행 환경을 설계하는 하네스 엔지니어링을 다룹니다.모델 성능만으로 해결하기 어려운 운영 안정성과 책임 범위 설정의 중요성을 정리합니다.#하네스엔지니어링 #AI에이전트 #프롬프트엔지니어링 #컨텍스트엔지니어링 #AI운영안정성 안녕하세요! kt cloud 테크 마케터 김지웅입니다. 🙋‍♂️ AI를 활용하는 방식이 빠르게 바뀌고 있어요. 한동안 AI를 잘 쓰는 핵심은 좋은 프롬프트를 작성하는 것이었죠. 어떤 역할을 줄지, 어떤 형식으로 답하게 할지, 어떤 기준을 지키게 할지 구체적으로 지시하는 것이 중요했습니다. 그런데 최근의 AI 에이전트는 단순히 답변만 생성하지 않아..