이제는 AI Cloud 시대의 도래!
딥러닝 기술로 만들어진 AI친구를 만든 챗봇기업 스캐터랩
kt cloud의 HAC(Hyperscale AI Computing)을 서비스를 활용해 입력받을 수 있는 대화의 길이를 4배까지 늘려 과거의 대화까지도 고려해 답변 하는 등 '모두를 위한 친구'로 만들위해서 노력중이신데요.
kt cloud의 HAC서비스는 무엇이고, 어떻게 활용했는지 후기를 준비했습니다!
Q. 스캐터랩은 어떤 회사인가요?
스캐터랩은 친구처럼 친밀한 대화를 나눌 수 있는 관계형 챗봇을 제작하는 회사입니다.
대표적인 서비스로는 너티앱으로 서비스하고 있는 AI친구 '이루다'라는 챗봇이 있습니다.
스캐터랩은 사람처럼 대화할 수 있는 기술을 구현하기 위해서 초거대 언어 모델을 학습하며 사용하고 있습니다.
Q.HAC서비스를 직접 사용해보니 어떠셨나요?
초거대 언어 모델을 학습하는 방법론과 예상되는 이슈들을 조사하고 대비하면서 실제로 학습까지 시켜본 경험이 저희 스캐터랩의 큰 자산이 되었다고 볼 수 있습니다. 또한 kt cloud의 HAC서비스를 통해 모델의 크기를 키워서 학습할 수 있었고
모델의 대화 능력도 훨씬 고도화 시킬 수 있었습니다. 입력으로 받을 수 있는 대화의 길이를 4배까지 늘림으로써 답변을 생성하기 위해서 과거의 대화까지도 고려하여 답변할 수 있게되었습니다.
Q.스캐터랩의 향후 계획이 궁금합니다.
언어 모델은 모델의 크기가 굉장히 중요합니다.
그렇기 때문에 저희 서비스의 지속적인 기술 향상을 위해서 모델의 크기를 계속 키워나갈 계획입니다. 또한 스캐터랩은 루다와 이용자 간의 대화 피드백이나 데이터를 언어 모델에 지속적으로 반영하기 위해 주기적으로 모델 추가 학습도 해나갈 계획입니다.
'고객 사례' 카테고리의 다른 글
| [고객사례] KT융합기술원 Hyperscale AI Computing을 활용한 AI 초거대 언어모델 적용 사례 (0) | 2023.06.28 |
|---|
