[ kt cloud AI플랫폼팀 최지우  님 ]  개요AI가 고도화되며 대규모 언어 모델(LLM)의 응답 품질과 정확도는 중요한 이슈로 떠오르고 있습니다. 그러나 LLM은 훈련 데이터에 포함된 정보만을 기반으로 작동하기 때문에, 최신 데이터나 특정 도메인에 특화된 정보 제공에는 한계가 있습니다. 이를 해결하기 위한 기술로 RAG(Retrieval-Augmented Generation)와 Vector DB가 주목받고 있습니다. 이 글에서는 RAG의 원리와 Vector DB가 어떻게 AI 모델의 응답 정밀도를 높이는지, 그리고 이를 활용해 실제 애플리케이션을 개념적으로 구성하는 방법을 다룹니다.1. RAG와 Vector Database란 무엇인가?RAG를 설명하기에 앞서 Vector DB에 대해 이해하는 것..

[ kt cloud DC동부운용센터 박지현 님 ] 데이터센터에 새로운 냉각 방식이 필요한 이유2022년 11월 출시된 미국의 인공지능 연구소 오픈AI(OpenAI)의 챗GPT(ChatGPT)로부터 촉발된 인공지능(AI) 혁명은 전 산업 분야로 확산되며 디지털 전환을 가속화하고 있습니다. AI의 학습과 추론을 위해서는 AI 가속기(AI accelerator)와 같은 스펙이 높은 하드웨어가 필요하게 되는데 하드웨어의 성능 향상에 따라 전력 요구 사항 또한 증가하고 있습니다. 장치에서 사용되는 전기 에너지는 열에너지로 변환되기 때문에 AI 인프라가 설치된 데이터센터에서는 열이 많이 발생하게 됩니다. AI 서비스 환경에 특화된 데이터센터(Data Center)에서는 기존의 냉각 방식인 공기 냉각 방식(Air C..

▶ ‘Cloud본부장’에 클라우드 컴퓨팅, 분산 시스템 엔지니어링, AI 분야 전문가 공용준 본부장 영입▶ ‘DC본부장’에 DC 컨설팅, 해외 IT 전략 및 신사업 개발 이끌어 온 허영만 본부장 영입▶ “새로 합류한 리더들과 함께 국내 최고 수준의 경쟁력과 기술력 보유한 선도 사업자로 자리매김할 것” kt cloud(www.ktcloud.com, 대표이사 최지웅)는 기술 중심 회사로의 본격 변화를 위해 클라우드∙DC(데이터센터) 전문가들을 잇달아 영입한다고 23일 밝혔다. Cloud본부장으로 합류한 공용준 본부장은 클라우드 및 AI 분야의 20년 이상 경력을 보유한 인물로 클라우드, AI, 고성능 분산 컴퓨팅 등 관련 분야의 전문성을 갖췄다. 공 본부장은 SK C&C 오픈소스 데이터 플랫폼 아키텍트를 거..

▶ ‘서비스 메시 기반 네트워크 트래픽 관리’, ‘냉각수 펌프 원격제어’ 등 클라우드, DC 기술 개발 이어가▶ “국내 최고 수준의 기술 역량을 보유한 탑티어 테크 컴퍼니로 도약할 것” kt cloud(www.ktcloud.com, 대표이사 최지웅)가 클라우드 서비스의 안정성과 DC(데이터센터) 자동화 기술력 제고를 위해 관련 특허 20건을 출원했다고 18일 밝혔다. kt cloud는 안정적이고 효율적인 서비스 제공을 위한 기술력 확보에 집중하며 기술 전문 회사로 변화 중이다. 올해 기술본부를 새롭게 신설하는 한편, DC 장애 복구 자동화 기술 ‘Path Finder’ 개발, 액침냉각 기술검증(PoC) 및 D2C(직접 칩 냉각) 방식 도입 검토(PoC 추진) 등 기술 경쟁력 확보를 위한 행보를 이어가고 ..

▶ kt cloud-한국교육정보화재단-디딤365 3사, 한국교육정보화재단 산하 회원 대학의 클라우드, AI 이용 활성화를 위한 원스톱 서비스 제공 협력▶ “367개 대학 고객들의 니즈 반영한 클라우드·AI 서비스 제공으로 연구 경쟁력 강화에 기여할 것”  kt cloud(www.ktcloud.com, 대표이사 최지웅)는 한국교육정보화재단(KREN, 이사장 김홍기), 디딤365(대표 장민호)와 ‘대학교 및 대학기관 대상의 클라우드·AI 사업 추진을 위한 업무 협약(MOU)’을 체결했다고 13일 밝혔다. 13일 한국교육정보화재단 홍익대학교 대학로캠퍼스 사무국에서 진행된 체결식에는 kt cloud 임재영 상무, 한국교육정보화재단 김홍기 이사장, 디딤365 김정수 전무를 비롯한 주요 관계자들이 참석해 한국교육정..

▶'AI 인프라 구축 및 AI 응용 서비스 고도화’ 성공적으로 수행 중▶”참여 기업들과 함께 클라우드 기반의 AI 생태계 강화 위해 지속 노력할 것”  kt cloud(대표 최지웅, www.ktcloud.com) 는 정보통신산업진흥원과 함께 진행하는 ‘AI반도체 Farm 구축 및 실증’ 2차년도 사업을 성공적으로 수행하고 있다고 12일 밝혔다. kt cloud는 지난 2023년부터 과학기술정보통신부가 주관하는 ‘K-클라우드 프로젝트’ 사업 중 하나인 ‘AI반도체 Farm 구축 및 실증 사업’에 참여하고 있다. K-클라우드 프로젝트는 국산 AI 반도체 경쟁력 강화를 위해 AI반도체를 검증하고 민간과 공공을 위한 저비용·고효율 AI 서비스를 발굴하는 사업이다. kt cloud는 ‘AI반도체 Farm 구축 및..

▶12일, 클라우드 및 데이터센터 파트너사 관계자 등 150여 명 참석 성료 ▶ ‘25년 사업 방향, 기술 전략 등 발표, '타운홀 미팅’으로 허심탄회한 양방향 소통 ▶ “기술 중심 회사로 도약 위해 파트너사 협력 필수, 양적·질적 동반성장 위해 최선을 다할 것”  kt cloud(대표 최지웅, www.ktcloud.com)는 12일 서울 역삼 아모리스에서 클라우드 및 데이터센터 파트너사의 동반성장을 위한 소통의 장 ‘2024 kt cloud 파트너스 데이(Partner’s Day)’를 개최했다고 밝혔다. 이 날 행사에는 최지웅 대표를 비롯한 kt cloud 주요 임원과 메가존클라우드, 콘텐츠브릿지, 디딤365, 진인프라  등 클라우드 분야 MSP 파트너사와 아리스타, 퍼시픽자산운용, 클루젠 등 DC(데..