AI 29

[현장 스케치] AI와 클라우드가 그리는 미래 기술의 지도 - kt cloud가 본 CES 2025 in 라스베이거스

* 본 글은 kt cloud 임직원들의 CES 2025 참관 보고서를 바탕으로 재구성한 내용입니다.  [ kt cloud 마케팅커뮤니케이션 팀]   안녕하세요, kt cloud 마케팅커뮤니케이션팀 입니다. 🙋‍♂️"와, 미래가 정말 눈앞에 와있네요!" 지난 1월, 라스베이거스에서 열린 CES 2025 현장에서 첫 발을 내딛자마자 든 생각이에요. 특히 AI 기술이 우리 생활 곳곳에 깊숙이 스며든 모습을 보면서 정말 놀라웠답니다. 오늘은 kt cloud 참관단이 직접 보고 느낀 생생한 현장 이야기를 여러분과 함께 나누어볼까 해요.🛫 라스베이거스로의 여정라스베이거스의 1월은 늘 특별해요. 매년 전 세계의 기술 업계 종사자들이 모여드는 CES가 열리기 때문이죠. 올해도 어김없이 라스베이거스 컨벤션 센터(LV..

[튜토리얼] kt cloud AI로 배우는 RAG 개념 구현하기: FAISS로 시작하는 첫걸음

[ kt cloud AI플랫폼팀 최지우  님]  개요AI가 고도화되며 대규모 언어 모델(LLM)의 응답 품질과 정확도는 중요한 이슈로 떠오르고 있습니다. 그러나 LLM은 훈련 데이터에 포함된 정보만을 기반으로 작동하기 때문에, 최신 데이터나 특정 도메인에 특화된 정보 제공에는 한계가 있습니다. 이를 해결하기 위한 기술로 RAG(Retrieval-Augmented Generation)와 Vector DB가 주목받고 있습니다. 이 글에서는 RAG의 원리와 Vector DB가 어떻게 AI 모델의 응답 정밀도를 높이는지, 그리고 이를 활용해 실제 애플리케이션을 개념적으로 구성하는 방법을 다룹니다.1. RAG와 Vector Database란 무엇인가?RAG를 설명하기에 앞서 Vector DB에 대해 이해하는 것이..

인공지능이 만드는 회사 홍보 영상! AI 최신 트렌드 체험하기

[kt cloud 서비스개발팀 강상구 님] 인공지능이 만드는 회사 홍보 영상! AI 최신 트렌드 체험하기 최근 GPT의 등장 이후 인공지능(AI)은 전 세계적으로 주목받고 있으며, 다양한 산업에 변화를 이끌고 있습니다. 'AI 분야는 자고 일어나면 신기술이 나와 있다'는 말을 들어본 적이 있으신가요? 한 회사가 새로운 모델을 공개하면 다음 날 경쟁적으로 다른 회사에서 또 새로운 모델을 공개하며 경쟁이 날로 치열해지고 있습니다.Notion, Adobe 등 기존 서비스 기업들 역시 AI가 적용된 기능을 하나둘 공개하고 있습니다. Adobe MAX Sneaks 2024에서 공개된 illustrator AI 기능대화형 인공지능 ‘AI는 ChatGPT다’라고 생각하고 계신가요?ChatGPT는 대화형 인공지능의 한..

AMD MI250 GPU로 vLLM 최적화 하기 (feat. AI SERV)

[kt cloud AI플랫폼팀 최지우 님]    AMD MI250 GPU로 vLLM 최적화하기 최근 대규모 언어 모델(LLM)의 발전과 함께 인공지능 연구 및 상용화 과정에서 GPU의 수요가 급격히 증가하고 있습니다. 특히, NVIDIA는 이 분야에서 시장을 주도하며 AI 연산에 필수적인 GPU 기술을 제공하고 있지만, 수요에 비해 공급이 부족하고 가격이 높아지는 문제가 발생하고 있습니다. 이러한 상황에서 많은 기업과 연구 기관들은 더 경제적이면서도 성능이 뛰어난 대안을 모색하고 있습니다.그 중 하나가 vLLM 프로젝트입니다. vLLM은 LLM 추론 및 제공을 위한 빠르고 사용하기 쉬운 라이브러리입니다. PagedAttention을 이용하여 Key-Value(KV) Cache가 저장되는 메모리를 blo..

kt cloud, ‘오픈 인프라 서밋 아시아 2024’ 키노트 강연∙∙∙“주도적 기술 리더로 변화할 것”

▶ 오픈소스 생태계 발전 위한 공유의 장, 전 세계 클라우드 전문가 1,500여명 참석 성황▶ 안재석 본부장 키노트, ‘kt cloud 패러다임의 변화: 의존성을 벗어나 주도적인 기술 리더로’▶ “오픈소스 생태계 발전에 함께 할 수 있어 영광, 서비스 기술과 인적 역량 강화로 기술 혁신을 리딩할 것”  kt cloud(www.ktcloud.com, 대표이사 최지웅)가 글로벌 오픈소스 컨퍼런스인 ‘오픈 인프라 서밋 아시아 2024’의 헤드라인 스폰서로 참여하며 안재석 기술본부장이 키노트 강연을 진행했다고 9월 4일 밝혔다. 오픈인프라 재단 주최로 9월 3일~4일 양일 간 수원 컨벤션센터에서 열린 ‘오픈 인프라 서밋 아시아 2024’에는 전 세계 클라우드 전문가 1,500여명이 참석한 것으로 전해졌다. 현장..