AI 27

인공지능이 만드는 회사 홍보 영상! AI 최신 트렌드 체험하기

[kt cloud 서비스개발팀 강상구 님] 인공지능이 만드는 회사 홍보 영상! AI 최신 트렌드 체험하기 최근 GPT의 등장 이후 인공지능(AI)은 전 세계적으로 주목받고 있으며, 다양한 산업에 변화를 이끌고 있습니다. 'AI 분야는 자고 일어나면 신기술이 나와 있다'는 말을 들어본 적이 있으신가요? 한 회사가 새로운 모델을 공개하면 다음 날 경쟁적으로 다른 회사에서 또 새로운 모델을 공개하며 경쟁이 날로 치열해지고 있습니다.Notion, Adobe 등 기존 서비스 기업들 역시 AI가 적용된 기능을 하나둘 공개하고 있습니다. Adobe MAX Sneaks 2024에서 공개된 illustrator AI 기능대화형 인공지능 ‘AI는 ChatGPT다’라고 생각하고 계신가요?ChatGPT는 대화형 인공지능의 한..

Tech story/etc. 2024.11.11

AMD MI250 GPU로 vLLM 최적화 하기 (feat. AI SERV)

[kt cloud AI플랫폼팀 최지우 님]  AMD MI250 GPU로 vLLM 최적화하기 최근 대규모 언어 모델(LLM)의 발전과 함께 인공지능 연구 및 상용화 과정에서 GPU의 수요가 급격히 증가하고 있습니다. 특히, NVIDIA는 이 분야에서 시장을 주도하며 AI 연산에 필수적인 GPU 기술을 제공하고 있지만, 수요에 비해 공급이 부족하고 가격이 높아지는 문제가 발생하고 있습니다. 이러한 상황에서 많은 기업과 연구 기관들은 더 경제적이면서도 성능이 뛰어난 대안을 모색하고 있습니다.그 중 하나가 vLLM 프로젝트입니다. vLLM은 LLM 추론 및 제공을 위한 빠르고 사용하기 쉬운 라이브러리입니다. PagedAttention을 이용하여 Key-Value(KV) Cache가 저장되는 메모리를 block..

Tech story/AI Cloud 2024.10.14

kt cloud, ‘오픈 인프라 서밋 아시아 2024’ 키노트 강연∙∙∙“주도적 기술 리더로 변화할 것”

▶ 오픈소스 생태계 발전 위한 공유의 장, 전 세계 클라우드 전문가 1,500여명 참석 성황▶ 안재석 본부장 키노트, ‘kt cloud 패러다임의 변화: 의존성을 벗어나 주도적인 기술 리더로’▶ “오픈소스 생태계 발전에 함께 할 수 있어 영광, 서비스 기술과 인적 역량 강화로 기술 혁신을 리딩할 것”  kt cloud(www.ktcloud.com, 대표이사 최지웅)가 글로벌 오픈소스 컨퍼런스인 ‘오픈 인프라 서밋 아시아 2024’의 헤드라인 스폰서로 참여하며 안재석 기술본부장이 키노트 강연을 진행했다고 9월 4일 밝혔다. 오픈인프라 재단 주최로 9월 3일~4일 양일 간 수원 컨벤션센터에서 열린 ‘오픈 인프라 서밋 아시아 2024’에는 전 세계 클라우드 전문가 1,500여명이 참석한 것으로 전해졌다. 현장..

News/Press release 2024.10.02

kt cloud, 엔비디아 GPU 기반 AI 학습용 인프라 서비스 ‘AI Train’ 출시

▶ 대규모 GPU 노드 클러스터링, 동적할당 제어 등 성능, 비용 강점 살린 학습 전용 AI 인프라▶ H100 등 엔비디아 기반 서비스 제공… AI 연구의 호환성과 범용성 갖춰▶ “파트너들과 협업 이어가며 고객 맞춤형 AI 인프라 환경 구현할 것”kt cloud(http://www.ktcloud.com, 대표이사 최지웅)가 엔비디아 GPU(Graphic Processing Unit, 그래픽처리장치)를 적용한 AI 학습 전용 인프라 서비스, ‘AI Train’을 출시했다고 30일 밝혔다. 이번 출시된 AI Train은 초거대 AI 분야에서 단기간 집중적으로 대용량, 고사양의 GPU 공급이 필요한 학습 영역에 특화된 서비스다. AI Train은 kt cloud가 지난 ‘22년 선보인 HAC(Hyperscal..

News/Press release 2024.06.24

kt cloud, 한국정보통신진흥협회와 AI∙클라우드 공동사업 위한 업무협약 체결

▶ AI·클라우드 분야 공동 사업 기획, 활용 기업 발굴 등 협력… 중소기업, 연구기관에 기술 도입 적극 지원▶ kt cloud, AI 인프라 수요 대응 및 맞춤형 서비스 제공 위해 AI서비스 라인업 지속 확대 예정▶ “파트너사와 협력 이어가며 고객들이 AI 서비스 개발에 몰두할 수 있는 인프라 환경 구현할 것”kt cloud(www.ktcloud.com, 대표이사 최지웅)와 한국정보통신진흥협회(회장 유영상, 이하 ‘KAIT’)는 7일 kt cloud 본사에서 AI∙클라우드 분야 공동사업을 위한 업무협약(MOU)을 체결했다고 밝혔다. 이번 협약을 통해 두 기관은 AI·클라우드 분야 ▲공동 사업 기획∙운영, ▲활용 및 확산 프로그램 개발·운영, ▲교육 프로그램 개발·운영 ▲활용 기업 발굴 및 인프라 서비스..

News/Press release 2024.05.16