기술 블로그 (Tech) | kt cloud

kt cloud Azure전환TF 이영호 님 📝 요약 SUMMARY 이 글에서는 에이전틱 AI 확산에 따른 LLM 추론 최적화와 양자화, KV 캐시, 추론 전용 칩의 변화를 다룹니다.제한된 인프라에서 성능과 비용을 함께 고려해야 하는 방향을 정리합니다.#에이전틱AI #LLM추론 #양자화 #KV캐시 #추론전용칩최근 AI 산업의 패러다임은 '학습(Training)' 단계를 넘어 '추론(Inference)'의 효율화로 완전히 넘어가고 있습니다. 이는 단순히 사용자의 질문에 한 번 답하고 끝나는 챗봇을 넘어, AI가 스스로 문맥을 파악하고 연속적인 작업을 수행하는 '에이전틱 AI(Agentic AI)' 시대가 본격적으로 열렸기 때문입니다. Deloitte에 따르면 2023년 전체 AI 컴퓨팅의 약 1/3..

kt cloud 마케팅커뮤니케이션팀 김지웅 님 📝 요약 SUMMARY 이 글에서는 공공 클라우드를 위한 kt cloud PLATFORM의 운영 구조와 확장성, 보안성, AI 인프라 기반을 다룹니다.안정적인 서비스 운영과 변화 대응을 위한 클라우드 전환 방향을 정리합니다.#ktcloud #공공클라우드 #OpenStack #Kubernetes #AI인프라안녕하세요! kt cloud 테크 마케터 김지웅 입니다. 🙋‍♂️ 오늘은 공공 클라우드의 새로운 운영 기반이 될 kt cloud PLATFORM을 소개해 드릴게요.공공 클라우드 환경의 변화공공 클라우드 환경은 이제 가상서버(VM) 중심의 안정적인 인프라 운영을 넘어, 컨테이너, AI 인프라, 데이터 기반 서비스까지 함께 고려하는 방향으로 넓어지고 있..

[ kt cloud 마케팅커뮤니케이션팀 김지웅 님 ] 📋 요약 이 글에서는 RAG 시스템의 검색 고도화와 리랭킹을 활용한 실무형 검색 파이프라인 설계를 다룹니다.정확한 근거 문서 확보가 답변 품질과 운영 안정성을 좌우한다는 점을 정리합니다.#RAG #검색고도화 #하이브리드검색 #리랭킹 #AdaptiveRetrieval 들어가며💭안녕하세요! kt cloud 테크 마케터 김지웅입니다. 🙋‍♂️ 지난 1~4편의 연재를 통해 문서를 벡터로 변환하고 빠르게 찾아내는 RAG의 기반 기술들을 차근차근 살펴봤죠. 그런데 그동안의 이야기에는 한 가지 숨은 전제가 있었어요. 바로 ‘인덱싱과 검색 방식이 한 번 정해지면 변하지 않는다’는 정적인 환경을 가정했다는 점입니다. 하지만 현업에서 직접 AI 서..

[ kt cloud 마케팅커뮤니케이션팀 김지웅 님 ] 📋 요약 이 글에서는 AI 에이전트가 실제 업무를 안전하게 수행하도록 실행 환경을 설계하는 하네스 엔지니어링을 다룹니다.모델 성능만으로 해결하기 어려운 운영 안정성과 책임 범위 설정의 중요성을 정리합니다.#하네스엔지니어링 #AI에이전트 #프롬프트엔지니어링 #컨텍스트엔지니어링 #AI운영안정성 안녕하세요! kt cloud 테크 마케터 김지웅입니다. 🙋‍♂️ AI를 활용하는 방식이 빠르게 바뀌고 있어요. 한동안 AI를 잘 쓰는 핵심은 좋은 프롬프트를 작성하는 것이었죠. 어떤 역할을 줄지, 어떤 형식으로 답하게 할지, 어떤 기준을 지키게 할지 구체적으로 지시하는 것이 중요했습니다. 그런데 최근의 AI 에이전트는 단순히 답변만 생성하지 않아..

[ kt cloud Foundation플랫폼팀 서준호 님 ] 📋 요약 이 글에서는 AI 인프라 비즈니스의 핵심 경쟁력인 GPU 중심 인프라와 풀스택 최적화 전략을 다룹니다.운영 효율성과 비용 경쟁력을 높이는 실질적 방향을 정리합니다.#AI인프라 #GPU #풀스택최적화 #Neoclouds #AI데이터센터 1. Neoclouds 의 탄생Neoclouds의 목적은 단 하나, AI를 위한 최적의 환경을 제공하는 것입니다. 이들은 GPU 중심의 대규모 병렬 연산, 고대역폭 네트워킹, 저지연 스토리지, 고도화된 데이터센터 관리 기능을 갖추어 비용 효율적인 인프라 서비스를 제공합니다. 천편일률적인 옵션을 제시하는 Hyperscalers 와 달리, Neoclouds는 고객의 특수한 요구와 진화하는 ..

[ kt cloud DC글로벌고객팀 심재문 님 ] 📋 요약 이 글에서는 AI 인프라 투자 사이클의 현재 위치를 Capex·Cash Flow 지표로 분석하고,하이퍼스케일러의 전략 변화와 데이터센터 사업자의 대응 방향을 다룹니다.투자 속도와 수익화 사이의 시간차(Time-Gap)가 실질적인 리스크 요인임을 짚으며,전력 확보와 실행 확실성이 경쟁 우위를 결정짓는 핵심 변수임을 정리합니다.#AI인프라 #Capex사이클 #하이퍼스케일러 #데이터센터 #잉여현금흐름 1. 질문의 재정의: “AI는 거품인가?”라는 질문이 본질을 가리는 이유2026년 현재, 글로벌 금융 시장과 IT 산업계에서는 다시 한번 “AI 버블론”이 거세게 몰아치고 있습니다. NVIDIA를 필두로 한 GPU 제조사들의 주가 변동성..

[ kt cloud Azure전환TF 이영호 님 ] 📋 요약 이 글에서는 ktcloud와 Microsoft Azure를 결합한 하이브리드 클라우드 환경에서의 네트워크 연결, ID 관리,데이터 배치 전략, 보안 거버넌스, 그리고 CSAP 및 CLOUD Act 등 법적 규제 대응 방안을 다룹니다.데이터 주권 확보와 글로벌 AI 혁신 활용이라는두 가지 요구를 동시에 충족하기 위한 실질적인 아키텍처 설계 방향을 정리합니다.#하이브리드클라우드 #데이터주권 #CSAP #ExpressRoute #제로트러스트 들어가며: 혁신적 미래를 위한 '두뇌'와 '금고'의 결합Cloud 3.0 시대가 그리는 혁신적인 미래는 복잡하지 않습니다. 가장 뛰어난 'AI 두뇌(Azure)'를 활용하면서도, 내 소중한 정보..

[ kt cloud Cloud 컨설팅팀 심대섭 님 ] 📋 요약 이 글에서는 피지컬 AI의 핵심 개념과 현장 운영 루프, 그리고 이를 뒷받침하는AI 데이터센터(AIDC) 인프라의 설계 요건과 2026년 전망을 다룹니다.GPU 중심의 단편적 시각을 넘어 스토리지·네트워크·전력·냉각까지 통합 설계가실제 확산 속도와 운영 경쟁력을 결정짓는 핵심 변수임을 정리합니다.#피지컬AI #AIDC #AI데이터센터 #GPU인프라 #엣지AI운영 1. CES 2026에서 로봇은 왜 다시 주목받았을까요?CES 2026에서 로봇이 다시 주목받은 건, 이제 로봇이 ‘보여주는 기술’에서 ‘현장에 쓰는 기술’로 옮겨가고 있기 때문입니다. 흥미로운 장면은 일부 보도에서 자동차 회사인 현대차의 전시가 “자동차 전시”보다 ..

[ kt cloud 마케팅커뮤니케이션팀 김지웅 님 ] 📋 요약 이 글에서는 RAG 시스템의 핵심 구성 요소인 임베딩 원리, 다국어 모델 선정 전략,그리고 HNSW·DiskANN·GPU 가속·양자화 등 벡터 인덱싱 최적화 기법을 다룹니다.모델의 표현력과 인프라 검색 효율 사이의 트레이드오프를 이해하는 것이실무 RAG 시스템의 품질과 운영 비용을 동시에 결정짓는다는 점을 정리합니다. #RAG #벡터임베딩 #HNSW #DiskANN #양자화들어가며 💭안녕하세요, kt cloud 테크 마케터 김지웅 입니다. 🙋‍♂️RAG를 구축하다 보면 지난 3편에서 다룬 '청킹' 다음으로 반드시 마주하는 거대한 산이 하나 있어요.“문서를 잘게 쪼개긴 했는데, 이걸 도대체 어떤 기준으로 수치화하고(임베딩), 수억 개..

[ kt cloud 마케팅커뮤니케이션팀 김지웅 님 ] 📋 요약 이 글에서는 2026년 8월 본격 시행되는 EU AI Act의 위험 기반 규제 구조와 AI 거버넌스 요구사항을 다룹니다.한국 기업이 AI 시스템을 책임 있게 운영하고 신뢰 기반 경쟁력을 확보하기 위한 사전 관리 체계 구축 방향을 정리합니다.#EU_AI_Act #AI거버넌스 #고위험AI #위험기반규제 #생성형AI 1. 2026년 8월, EU AI Act가 한국 기업에게 던지는 의미 안녕하세요, kt cloud 테크 마케터 김지웅입니다. 🙋‍♂️ 다가오는 2026년 8월이면 유럽연합(EU)의 인공지능법(EU AI Act) 핵심 의무가 본격적으로 적용돼요. 이 시점을 앞두고 한국 기업 내부에서는 묘하게 엇갈린 반응이 나타나고 있는데요. "..