소식/고객 사례4 [고객사례] KT융합기술원 Hyperscale AI Computing을 활용한 AI 초거대 언어모델 적용 사례 [AI Cloud 고객사례] KT융합기술원 Hyperscale AI Computing을 활용한 AI 초거대 언어모델 적용 사례 미국에 챗GPT가 있다면 한국은 KT의 초거대 AI '믿음'이 있다! KT에서 23년 하반기에 출시를 앞둔 초거대 AI 믿음을 연구하고 개발하는 곳! 바로 KT융합기술원인데요. KT융합기술원 또한 kt cloud의 고객사이십니다. 자세한 내용을 들어보죠. Q.KT의 초거대 AI연구에 대해 설명 부탁드려요! 저희가 실제로 연구하는 초거대 AI는 초거대 언어모델입니다. 초거대라는것은 파라미터 규모에 따라서 달라지는데요. 현재는 10억 개 이상의 언어모델에 대해서 초거대로 분류하고 있습니다. 언어 모델에는 GPT3와 T5는라는 큰 두가지 모델이 있는데요. GPT3 같은 경우는 생성에 .. 2023. 6. 28. [고객사례] AI 이루다 챗봇기업 스캐터랩: 친구처럼 친밀한 대화를 나눌 수 있는 비결 이제는 AI Cloud 시대의 도래! 딥러닝 기술로 만들어진 AI친구를 만든 챗봇기업 스캐터랩 kt cloud의 HAC(Hyperscale AI Computing)을 서비스를 활용해 입력받을 수 있는 대화의 길이를 4배까지 늘려 과거의 대화까지도 고려해 답변 하는 등 '모두를 위한 친구'로 만들위해서 노력중이신데요. kt cloud의 HAC서비스는 무엇이고, 어떻게 활용했는지 후기를 준비했습니다! Q. 스캐터랩은 어떤 회사인가요? 스캐터랩은 친구처럼 친밀한 대화를 나눌 수 있는 관계형 챗봇을 제작하는 회사입니다. 대표적인 서비스로는 너티앱으로 서비스하고 있는 AI친구 '이루다'라는 챗봇이 있습니다. 스캐터랩은 사람처럼 대화할 수 있는 기술을 구현하기 위해서 초거대 언어 모델을 학습하며 사용하고 있습니다... 2023. 2. 9. 클라우드 환경에서도 고가용성 DBMS 사용한다 kt cloud에서 티맥스티베로(TmaxTibero)의 핵심 기능인 'TAC(티베로 액티브 클러스터)'를 사용할 수 있게 됐다. TAC는 액티브·액티브 공유 디스크 기반의 고가용성 구조로 이뤄졌으며, 장애 발생시 운영이 유효한 시스템으로 전환 돼 중단 없이 애플리케이션을 사용할 수 있다. 위 상품은 kt cloud가 국내 CSP 중 최초로 등록 한 사례로 기록됐다. 기존 사례와 구별되는 부분은 민간 클라우드 환경에서 최적화 된 형태로 고 가용성 DBMS를 제공해, 다양한 업무 구성과 무중단 서버 운영을 할 수 있다는 점이다. 일반적으로 클라우드 환경에서는 공유 스토리지 및 고성능 전용 네트워크가 지원되지 않아 DB액티브·액티브 이중화 구현이 어렵지만, 온프레미스 환경에서의 TAC 기능과 성능을 클라우드 .. 2022. 9. 16. 관리형 메시지 브로커 서비스 - Message Queue 신규 출시 이번 시간에는 KT Cloud에서 신규 출시한 Message Queue 서비스에 대해서 소개드려 보도록 하겠습니다. Message Queue란? Message Queue(혹은 메시지 대기열)는 서비스와 서비스간에 '비동기 방식'을 통해 통신을 하는 형태를 말합니다. 보다 구체적으로는 MOM(Message Oriented Middleware, 메시지 지향 미들웨어)을 구현한 솔루션을 의미합니다. (즉, 비동기 메시지를 사용하는 서비스들 사이에서 데이터를 교환해 주는 역할을 하는 것) 통상 아래 그림과 같이, Producer(Sender)가 Queue(대기열)에 메시지를 전송하면 Consumer(Receiver)가 수신해가는 형태로 사용이 됩니다. 특히, 요근래 각광을 받고 있는 마이크로 서비스 아키텍처(M.. 2021. 10. 12. 이전 1 다음
