[현장 스케치] AI 에이전트 시대, 사이버보안은 어떻게 달라지고 있을까? - GovWare 2026

 

kt cloud 마케팅커뮤니케이션팀

 

📝 요약 SUMMARY

이 글에서는 GovWare 2026에서 소개된
AI 에이전트 보안 위협과 프롬프트 인젝션 공격 시나리오, 글로벌 기업의 사이버보안 대응 기술을 다룹니다.
AI 기반 보안 자동화와 실행 맥락 검증, 사람의 감독이 중요한 이유를 정리합니다.

#GovWare2026 #AI에이전트보안 #프롬프트인젝션 #사이버보안 #보안자동화

---

안녕하세요! kt cloud 마케팅커뮤니케이션팀 입니다. 🙋‍♂️

AI가 질문에 답하고 문서를 작성하는 것을 넘어, 이제는 스스로 판단하고 실제 업무까지 수행하고 있습니다. 고객 문의를 분석하고, 필요한 작업을 계획하며, 여러 시스템과 연결해 업무를 처리하는 에이전틱 AI(Agentic AI)가 대표적인데요. AI가 할 수 있는 일이 많아질수록 자연스럽게 한 가지 궁금증이 생깁니다.

 

AI가 스스로 수행하는 작업은 어떻게 안전하게 관리할 수 있을까요? AI가 잘못된 지시를 받아 중요한 시스템을 변경하거나, 여러 AI가 협업하는 과정에서 예상치 못한 문제가 발생한다면 기존의 보안 방식만으로는 충분하지 않을 수도 있겠죠.

 

이러한 변화 속에서 글로벌 보안기업들은 어떤 기술과 대응 방안을 준비하고 있을까요?

 

이 질문의 답을 찾기 위해 kt cloud에서 보안을 담당하는 임직원들이 싱가포르에서 열린 GovWare 2026을 찾았습니다. 현장에서는 AI 에이전트를 악용한 공격 시나리오부터 보안 운영 자동화, 사람의 역할에 대한 논의까지 다양한 이야기를 접할 수 있었는데요. 특히 고객의 단순한 오류 신고가 AI 에이전트들을 거쳐 위험한 코드 변경으로 이어질 수 있다는 사례가 눈길을 끌었습니다.

 

과연 현장에서는 어떤 이야기가 오갔을까요?

 

지금부터 kt cloud 참관단이 싱가포르에서 보고 들은 이야기를 전해드리겠습니다!

---

싱가포르에서 만난 글로벌 사이버보안의 현장, GovWare 2026

지난 10월 13일부터 15일까지 싱가포르 Sands Expo & Convention Centre에서는 GovWare Conference & Exhibition 2026이 개최됐습니다. GovWare는 싱가포르 국제 사이버 주간(Singapore International Cyber Week, SICW)의 주요 행사로, 글로벌 보안기업과 기술 전문가, 정책 담당자들이 모여 최신 사이버 위협과 대응 기술을 공유하는 국제 사이버보안 컨퍼런스인데요.

 

올해 행사의 주제는 'Anchored in Unchanging Principles: Cyber at Agentic Velocity'였습니다. AI 에이전트의 확산으로 사이버 위협과 기술 환경이 빠르게 변화하더라도, 신뢰와 책임, 거버넌스, 사람의 감독이라는 보안의 기본 원칙을 유지해야 한다는 의미를 담고 있었어요.

 

📍 GovWare 2026 한눈에 보기

• 공식 행사명: GovWare Conference & Exhibition 2026
• 일정: 2026년 10월 13일(화) ~ 15일(목)
• 장소: 싱가포르 Sands Expo & Convention Centre
• 주제: Anchored in Unchanging Principles: Cyber at Agentic Velocity
• 주요 분야: AI 보안, 제로트러스트, 보안관제, OT 보안, 공급망 보안, 양자내성 보안

컨퍼런스에서는 AI 에이전트 보안뿐 아니라 제로트러스트, 보안관제 자동화, 운영기술(OT) 보안, 양자내성 보안 등 다양한 주제가 다뤄졌습니다. 전시장에서도 여러 글로벌 기업이 위협 탐지와 대응, 보안 운영 효율화를 위한 기술을 소개하고 있었죠.

 

그중에서도 이번 참관단이 관심 있게 살펴본 부분은 AI가 보안 업무에 어떤 변화를 가져오고 있으며, 동시에 어떤 새로운 위험을 만들어 내고 있는가였습니다.

---

AI가 사이버 공격에 대응하는 시대에도 사람의 판단이 중요한 이유

참관단이 참석한 ST Engineering의 기조연설은 'Humans at the Core: Commanding Cyber Advantage in the Agentic and Quantum Age'라는 제목으로 진행됐습니다. 발표를 맡은 ST Engineering은 AI와 양자 기술이 사이버보안에 가져올 변화 속에서도 사람의 판단과 통제를 유지해야 한다는 점을 강조했는데요.

 

현장 발표 자료에서는 사이버 공격과 방어, 운영 환경을 함께 이해하고 통제해야 한다는 메시지가 제시됐습니다. AI를 활용해 위협을 빠르게 탐지하고 대응하더라도, 그 결과가 실제 시스템에 어떤 영향을 미칠지는 사람이 평가해야 한다는 것이죠. ST Engineering이 소개한 AI 기반 사이버 방어 접근도 흥미로웠습니다. 공격자의 행동을 관찰하고 학습하는 Deceive and Learn, 위협을 탐지하고 대응하는 Detect and Respond, 보안 체계를 검증하고 강화하는 Validate and Harden처럼 AI를 보안 운영의 여러 단계에 활용하는 방향을 살펴볼 수 있었는데요.

 

이러한 접근은 AI가 위협 탐지를 지원하는 수준을 넘어 보안 운영 전반에 활용될 수 있음을 보여줍니다. 하지만 그만큼 자동화된 대응이 실제 서비스에 미칠 영향도 함께 고려해야 하겠죠.
예를 들어 클라우드 환경에서 AI가 이상 징후를 발견하고 서버를 자동으로 격리한다고 생각해 볼까요?
공격 확산을 막는 데 도움이 될 수 있지만, 해당 서버가 중요한 고객 서비스를 운영하고 있다면 정상적인 서비스까지 중단될 위험도 있습니다.

 

참관단도 이러한 부분에 주목했습니다. 위협을 탐지하는 것과 실제 대응 조치를 수행하는 것은 서로 다른 문제이며, 서비스에 영향을 미칠 수 있는 작업은 자동화 범위와 사람의 승인 기준을 구분할 필요가 있다는 것이었어요. AI가 더욱 빠르고 정교하게 위협을 분석하는 시대에도 어떤 대응을 자동으로 실행하고, 어떤 결정은 사람이 내려야 하는가라는 질문은 여전히 중요하다는 점을 생각해 볼 수 있는 발표였습니다.

---

고객의 오류 신고가 보안 사고로? Check Point가 보여준 AI 에이전트 공격 시나리오

이번 행사에서 참관단에게 특히 인상 깊었던 발표는 Check Point Software Technologies의 'Advancing AI Security with Insights from the World's Largest AI Red Team' 세션이었습니다. 여러 AI 에이전트가 협업하는 환경에서 발생할 수 있는 공격 시나리오를 소개했는데요. 복잡한 보안 기술을 설명하기에 앞서, 우리가 일상에서 접할 법한 고객지원 서비스를 예시로 들었습니다.

 

발표에 등장한 것은 고객지원 업무를 자동화한 가상의 피트니스 애플리케이션이었습니다.

화면에는 세 가지 AI 에이전트가 연결된 업무 흐름이 나타났습니다. 고객 문의를 분석하는 Support Agent, 분석 결과를 토대로 개발 요청을 생성하는 Product Agent, 그리고 실제 코드를 작성하는 Coding Agent였죠. 정상적인 상황이라면 고객이 오류를 신고했을 때 Support Agent가 내용을 분석하고, Product Agent가 개발 티켓을 생성하면, Coding Agent가 필요한 코드를 작성하는 방식으로 업무가 진행됩니다. 사람이 일일이 확인하고 전달해야 했던 여러 단계의 작업을 AI 에이전트들이 협업해 처리하는 구조였어요.
그런데 발표자는 이 과정에 공격자가 개입할 수 있다는 점을 보여줬습니다.

---

여러 AI 에이전트를 거치며 달라지는 정보의 신뢰 수준

공격은 정상적인 오류 신고처럼 보이는 고객 문의에서 시작됐습니다. 공격자는 고객 문의에 첨부된 디버그 로그에 악의적인 지시를 숨겨 놓고, Support Agent가 이를 분석하도록 유도하는 시나리오였는데요.
문제는 이후의 처리 과정에서 나타납니다. Support Agent가 외부 정보를 분석하고 요약해 Product Agent에 전달하고, Product Agent가 이를 바탕으로 개발 요청을 생성하는 동안 처음 입력된 정보의 출처와 신뢰 수준이 충분히 유지되지 않을 수 있다는 것이죠.

 

이렇게 되면 외부 고객이 전달한 내용이 내부에서 생성된 정상적인 개발 요청처럼 받아들여질 위험이 있습니다. 결국 Coding Agent가 해당 요청을 처리하면서 인증이나 경보 기능을 우회하는 코드 변경을 유도할 수 있다는 것이 발표에서 소개한 공격 시나리오였습니다.

 

이러한 방식은 프롬프트 인젝션(Prompt Injection)과 관련이 있습니다. AI가 처리하는 입력이나 외부 자료에 악의적인 지시를 삽입해 원래 의도와 다른 행동을 하도록 유도하는 공격인데요.
특히 웹페이지나 문서, 로그처럼 외부에서 가져온 자료를 통해 AI의 행동을 조작하는 방식은 간접 프롬프트 인젝션(Indirect Prompt Injection)이라고 합니다. 물론 발표에서 소개한 내용은 가상의 공격 시나리오이며, 실제 피트니스 서비스에서 발생한 침해사고는 아닙니다. 하지만 여러 에이전트가 연결된 업무 환경에서 외부 입력이 어떻게 중요한 시스템 작업에 영향을 미칠 수 있는지 이해하기에는 충분히 흥미로운 사례였어요.

---

각각의 보안 검사를 통과했는데, 전체 흐름은 위험하다면?

더욱 눈길을 끈 부분은 개별 보안 검사만으로는 이러한 공격을 놓칠 수 있다는 설명이었습니다.

 

발표에서는 로그나 파일, 프롬프트 등 각 단계의 입력을 개별적으로 검사하더라도 여러 에이전트를 거치며 만들어지는 전체 공격 맥락을 놓칠 수 있다는 점을 설명했습니다.
예를 들어 고객지원 에이전트가 전달한 개발 요청만 보면 정상적인 업무처럼 보일 수도 있습니다. 하지만 최초의 고객 문의로 거슬러 올라가면 해당 요청이 외부의 악의적인 지시에서 시작됐다는 사실을 확인할 수도 있겠죠.

 

참관단이 주목한 것도 바로 이 부분이었습니다. 개별 보안 통제의 적용 여부뿐 아니라, 여러 에이전트가 연결된 전체 업무 흐름에서 실제로 위험을 차단할 수 있는지 확인해야 한다는 점이었어요. 기존의 보안 가드레일(Guardrail)은 AI가 처리하는 입력과 출력, 실행하려는 작업 등이 보안 정책을 위반하지 않는지 확인하는 데 활용됩니다. 그러나 현재 검사하는 내용만으로는 이전 단계에서 어떤 정보가 전달됐고 왜 해당 작업이 생성됐는지 파악하기 어려울 수 있습니다.

 

물론 모든 가드레일이 입력과 출력만 검사하는 것은 아닙니다. 실제 실행 행위와 도구 호출까지 확인하는 기술도 활용되고 있는데요. 이번 발표는 이러한 검증 범위를 여러 AI 에이전트가 협업하는 전체 과정으로 넓혀야 한다는 점을 보여줬습니다.

---

AI 에이전트가 '무엇을 했는지'뿐 아니라 '왜 했는지'도 확인해야 한다면?

Check Point 세션에서는 이러한 문제를 해결하기 위한 방향으로 실행 맥락 기반 보안(Context-aware Runtime Security)을 소개했습니다. 에이전트의 역할과 권한, 최초 사용자의 요청, 도구 호출 이력 등을 함께 확인하는 접근 방식이 설명됐는데요.

예를 들어 어떤 AI 에이전트가 서버 설정을 변경하려 한다면, 단순히 해당 에이전트에 변경 권한이 있는지만 확인하는 것이 아니라 왜 그 작업을 수행하려 하는지, 최초 사용자가 실제로 요청한 작업인지, 중간에 외부에서 전달된 정보가 영향을 미치지는 않았는지까지 살펴보는 방식입니다.

 

이 과정에서 중요한 요소로 등장한 것이 프로비넌스(Provenance)였습니다.
데이터의 출처와 처리 이력을 추적하는 개념으로, 외부 정보가 여러 에이전트를 거쳐 전달되더라도 원래 어디에서 생성됐는지 확인할 수 있도록 하는 것이죠.
이러한 접근은 기업에서 활용하고 있는 제로트러스트(Zero Trust) 보안 원칙과도 연결됩니다. 제로트러스트가 접근 요청의 신원과 권한을 지속적으로 검증하는 접근 방식이라면, AI 에이전트 환경에서는 해당 작업이 원래의 업무 목적에 부합하는지까지 추가로 확인할 필요가 있다는 것입니다.

 

참관단은 이 부분을 기존 보안 체계와의 연계라는 관점에서 살펴봤습니다.
AI 에이전트가 실제 시스템에 접근하고 작업을 수행하는 만큼, 기존의 접근통제와 엔드포인트 탐지·대응(EDR), 보안정보 및 이벤트 관리(SIEM) 기술도 AI 실행 이력과 함께 활용할 수 있어야 한다는 것이었어요.
이번 세션을 통해 AI 보안의 중요한 과제가 개별 입력의 위험을 탐지하는 데서 나아가, AI 에이전트가 수행하는 전체 작업을 이해하고 통제하는 방향으로 확대되고 있다는 점을 확인할 수 있었습니다.

---

전시장에서는 어떤 사이버보안 기술을 만나볼 수 있었을까요?

컨퍼런스에서 AI 시대의 새로운 보안 위협과 대응 방향을 살펴봤다면, 전시장에서는 글로벌 보안기업들이 선보이는 다양한 기술과 솔루션을 만나볼 수 있었습니다.

 

Tenable, Elastic, TXOne Networks 등 여러 기업의 부스를 둘러보니 각기 다른 보안 영역을 다루면서도 AI 활용과 위협 분석, 보안 운영 효율화에 주목하고 있다는 점이 눈에 띄었는데요.

 

먼저 Tenable 부스에서는 기업의 보안 위험을 한눈에 파악하고 관리하는 노출관리(Exposure Management) 기술을 살펴봤습니다.
기업의 IT 환경이 복잡해질수록 관리해야 할 자산과 취약점도 늘어나는데요. 단순히 취약점을 찾아내는 것을 넘어, 어떤 자산이 공격에 노출되어 있고 어떤 위험부터 해결해야 하는지 우선순위를 정하는 접근이 인상적이었습니다.

 

수많은 취약점을 발견하는 것만큼 실제 위험을 얼마나 효과적으로 줄일 수 있는지가 중요하다는 점을 생각해 볼 수 있었죠.

 

Elastic 부스에서는 AI를 활용한 보안 운영 기술이 눈길을 끌었습니다. 특히 AI 에이전트를 보안관제에 활용하는 Agentic SOC라는 개념이 흥미로웠는데요.

 

Elastic은 AI Assistant와 Attack Discovery 등을 통해 보안 담당자의 위협 조사를 지원하고, 여러 보안 경보 사이의 연관성을 분석해 실제 대응이 필요한 위협을 파악하도록 돕고 있습니다. 앞서 Check Point 세션에서는 AI 에이전트가 새로운 공격 경로가 될 수 있다는 이야기를 들었는데, 이곳에서는 반대로 AI가 보안 담당자의 업무를 지원하는 기술을 살펴볼 수 있었던 것이죠.

 

AI 자체를 안전하게 보호하는 기술과 AI를 활용해 보안을 강화하는 기술이 함께 발전하고 있다는 점이 인상 깊었습니다.

 

다른 부스에서는 보안 기술이 적용되는 환경에 따라 접근 방식도 달라진다는 점을 확인할 수 있었습니다. M.Tech 부스에서 만난 Vectra AI는 네트워크와 클라우드, 사용자 계정 등 다양한 환경에서 발생하는 공격 징후를 AI로 탐지하고 분석하는 기술을 소개하고 있었는데요. 개별 시스템에서 발생한 보안 이벤트뿐 아니라 여러 환경에 걸쳐 나타나는 공격자의 행동을 연결해 파악한다는 점이 특징적이었습니다.

한편 TXOne Networks 부스에서는 공장 설비와 산업용 제어 시스템 등 운영기술(OT, Operational Technology) 환경을 위한 보안 기술을 살펴볼 수 있었습니다. 산업용 자산을 식별하고 위험을 평가하는 기술부터 위협을 차단하는 보호 기술까지, 실제 설비 운영을 고려한 접근이 눈에 띄었는데요. 일반적인 IT 환경과 달리 OT 환경에서는 보안 조치가 설비 운영에 직접적인 영향을 미칠 수 있기 때문에 보안성과 운영 안정성을 함께 고려한다는 점이 인상적이었습니다. 앞서 ST Engineering 기조연설에서 들었던 보안 자동화와 사람의 판단에 관한 이야기가 떠오르는 부분이기도 했죠.

 

이렇게 전시장을 둘러보니 노출관리부터 AI 기반 보안관제, 네트워크 위협 탐지, OT 보안까지 다양한 기술이 소개되고 있었지만, 그 안에서도 공통적인 흐름을 발견할 수 있었습니다.

 

보안 위협을 단순히 찾아내는 데 그치지 않고, 여러 시스템의 정보를 연결해 위험을 정확하게 파악하고 실제 대응까지 이어가려는 방향이었어요. 컨퍼런스에서 들었던 사이버보안의 변화가 전시장에서는 각 기업의 다양한 기술과 솔루션으로 구체화되고 있다는 점을 확인할 수 있었습니다.

---

GovWare 2026에서 발견한 사이버보안의 새로운 방향

 

이번 GovWare 2026을 둘러보며 느낀 것은 AI 기술의 발전이 사이버보안의 역할과 범위까지 변화시키고 있다는 점이었습니다.

 

다양한 발표와 전시에서 AI가 반복적으로 등장했지만, 단순히 AI를 도입하는 것보다 실제 환경에서 얼마나 안전하고 효과적으로 활용할 수 있는지가 더욱 중요한 화두로 다가왔는데요.

 

특히 여러 기술을 살펴볼수록 새로운 보안 솔루션을 도입하는 것만으로 모든 문제가 해결되는 것은 아니라는 생각이 들었습니다. 기술이 발전하더라도 이를 운영하는 환경과 기존 시스템의 특성을 이해하고, 적절한 기준과 절차를 마련하는 과정이 함께 뒷받침되어야 하기 때문이죠.

 

이번 참관은 AI 시대의 사이버보안이 새로운 기술을 도입하는 것을 넘어, 변화하는 환경에 맞춰 보안 체계와 운영 방식을 함께 발전시켜 나가는 과정이라는 점을 생각해 볼 수 있는 시간이었습니다.

 

앞으로 이러한 변화가 실제 클라우드와 데이터센터 환경에 어떻게 적용되고 발전해 나갈지도 기대되는데요.

 

싱가포르 현장에서 만난 다양한 기술과 경험이 여러분께도 새로운 시각을 전하는 계기가 되었기를 바랍니다.
앞으로도 kt cloud 기술 블로그를 통해 글로벌 기술 현장의 이야기와 인사이트를 생생하게 전해드리겠습니다.

 

그럼, 다음 현장 스케치에서 또 만나요! 🙋‍♂️

---

🧐 현장에서 담아온 한마디

🔎정강환 님 | 보안인증진단팀

"이번 행사에서는 Check Point가 소개한 AI 에이전트 공격 시나리오가 가장 기억에 남았습니다. 외부에서 들어온 정보가 여러 에이전트를 거쳐 실제 코드 변경으로 이어질 수 있다는 점이 흥미로웠는데요. 개별적인 보안 검사를 적용하는 것만으로는 전체 작업 과정의 위험을 놓칠 수도 있다는 점을 생각해 볼 수 있었습니다. 앞으로 AI 서비스의 보안성을 검토할 때도 실행 권한과 데이터 출처, 실제 조치 과정까지 함께 살펴보는 것이 중요하겠다고 느꼈습니다."

 

🛡️김경민 님 | 정보보호팀

"AI 에이전트가 단순히 정보를 제공하는 것을 넘어 실제 시스템에서 작업을 수행하게 되면서 보안의 관점도 달라져야 한다는 점이 인상 깊었습니다. 특히 여러 에이전트가 연결된 환경에서는 각각의 작업을 검사하는 것뿐 아니라 전체 실행 흐름을 파악하는 것이 중요하겠더라고요. 기존의 접근통제나 EDR 같은 보안 기술도 AI 에이전트의 실행 이력과 연계해 활용하는 방향을 고민해 볼 필요가 있다고 느꼈습니다."

 

---

📚 관련 / 출처 REFERENCES

🔗

• https://www.govware.sg/
• https://www.govware.sg/conference/govware-2026-event-agenda
• kt cloud 임직원 GovWare 2026 참관기 2건

↗