기술 블로그 (Tech) | kt cloud

[AI활용] AI Portal부터 보안관제까지, kt cloud AI 내재화 3가지 사례

[ kt cloud AI사업개발팀 정소라 님 ] 📋 요약 이 글에서는 kt cloud가 사내 업무에 AI를 적용해 업무 효율과 관제 품질을 개선한 내재화 사례를 다룹니다.실제 운영 환경에서 AI 도입 효과를 검증하고 확산하기 위한 실무 방향을 정리합니다.#ktcloud #AI내재화 #RAG #MCP #보안관제 "우리가 먼저 써봤습니다"AI 플랫폼을 만드는 회사가 정작 자기 업무에는 AI를 쓰지 않는다면, 그 플랫폼을 얼마나 신뢰할 수 있을까요? kt cloud는 고객에게 플랫폼을 제안하기 전에, 사내 업무에 먼저 AI를 적용해보는 원칙을 세웠습니다. "Dog-fooding"이라고도 부르는 이 접근법을 통해, 실제 업무 환경에서 마주치는 문제를 직접 겪고, 해결하고, 개선한 경험을 축적했..

[ kt cloud AI플랫폼팀 최지우 님 ] 📋 요약 이 글에서는 AI 모델 운영의 핵심인 MLOps에서 LLMOps로의 진화 과정을 다룹니다.생성형 AI 시대에 필요한 운영 체계의 변화와 기업이 고려해야 할 실무 관점을 정리합니다.#MLOps #LLMOps #AI운영 #생성형AI #RAGAI 모델을 만들고 배포하는 일은 이제 그 자체로 특별하지 않습니다. 누구나 튜토리얼을 따라 모델을 학습시키고, 몇 번의 시도로 눈에 띄는 성능을 낼 수 있습니다.그러나 모델을 ‘운영’하기 시작하는 순간, 이야기는 완전히 달라집니다. 실제 환경에서 AI는 하나의 모델로 완성되지 않습니다. 데이터 검증, 파이프라인 자동화, 자원 스케줄링, 거버넌스 정책 등이 동시에 맞물려야 합니다. 각 단계는 서로 의..

[ kt cloud AI플랫폼팀 최지우 님 ] 📋 요약 클라우드 GPU 서버에서 발생하는 암호화폐 채굴 문제의 실제 사례와 탐지 방법을 소개합니다.리소스 사용 패턴 분석을 통한 보안 위협 대응 전략을 제시합니다.#GPU서버 #암호화폐채굴 #클라우드보안 #리소스모니터링 #보안위협탐지 GPU 서버를 클라우드 환경에서 제공하는 플랫폼을 운영하다 보면 다양한 유형의 사용 패턴을 마주하게 됩니다. 대부분의 사용자는 인공지능 학습이나 추론 등 본래의 목적에 맞게 GPU를 활용하지만, 일부는 비정상적인 방식으로 리소스를 사용하는 사례도 존재합니다. 그중 대표적인 것이 바로 암호화폐 채굴입니다. 암호화폐 채굴은 계산량이 많은 작업이기 때문에 GPU나 CPU 자원을 장시간 점유하게 됩니다. 이로 인해 해당 인스턴스에서..