This is the Trace Id: 82db300a92e15ffe7b2368c7790afa3e

 

사이버 펄스: AI 보안 보고서

최근 Microsoft의 자체 텔레메트리와 연구 결과에 따르면, 많은 조직이 AI 에이전트를 적극 도입하고 있는 것으로 나타났습니다. 지금이 바로 리더들이 가시성, 거버넌스, 보안을 신속히 구현해야 할 때입니다.
보고서 읽기 공유
현대적인 사무실 회의 공간에 앉아 있는 세 명의 동료와 함께, Fortune 500대 기업의 로우코드 AI 에이전트 도입 현황을 강조하는 오버레이 텍스트

제1호: 소개

선도적인 조직들은 인간과 AI 에이전트가 나란히 협업하며 인간의 역량을 한층 끌어올리는 방식으로 새로운 업무 수행 방식을 재정의하고 있습니다. 최근 Microsoft 데이터에 따르면, 이러한 인간과 에이전트가 협업하는 팀이 빠르게 성장하고 있으며 전 세계적으로 널리 도입되고 있습니다.

AI 에이전트는 일부 기업이 인지하는 속도보다 더 빠르게 확산되고 있으며, 이러한 가시성 격차는 심각한 비즈니스 리스크로 작용합니다. 조직은 에이전트를 안전하게 도입하고 혁신을 촉진하며 위험을 최소화하기 위해 효과적인 거버넌스와 보안 체계 구축이 절실합니다. 인간 사용자와 마찬가지로 AI 에이전트 역시 제로 트러스트 원칙에 기반한 가시성, 거버넌스, 강력한 보안이 필수적입니다. AI 도입의 다음 단계를 성공으로 이끄는 기업은 속도감 있게 움직이며 비즈니스, IT, 보안, 개발팀이 긴밀히 협력하여 AI 전환을 신속하게 관측·관리·보호하는 조직이 될 것입니다.

Microsoft 생태계 전반에서 고객들은 Fabric, Foundry, Copilot Studio, Agent Builder 등 주요 플랫폼 전반에서 에이전트를 구축 및 배포하고 있으며, 업무 흐름에 AI 기반 자동화를 광범위하게 적용하고 있습니다.

에이전트 구축은 더 이상 기술 전문가만의 영역이 아닙니다. 오늘날 다양한 직무의 직원들이 일상 업무에서 직접 에이전트를 만들고 활용하고 있습니다. 실제로 Microsoft 데이터에 따르면 Fortune 500대 기업의 80% 이상이 로우코드/노코드 도구로 구축된 활성 에이전트를 배포하고 있습니다.1 에이전트 사용이 급증하고 혁신 기회가 확대되는 지금이 바로 기본적인 통제 체계를 마련해야 할 시점입니다.

인간 직원과 마찬가지로, 에이전트에 대한 제로 트러스트는 다음을 의미합니다:
 

  • 최소 권한 액세스: 모든 사용자, AI 에이전트, 시스템에 필요한 최소한의 권한만 부여합니다. 그 이상은 허용하지 않습니다.

  • 명확한 검증: 신원, 디바이스 상태, 위치, 위험 수준 등을 기반으로 누가 또는 무엇이 액세스를 요청하는지 항상 확인합니다.

  • 침해 가능성 가정: 공격자가 내부에 침투할 수 있음을 전제로 시스템을 설계합니다.

포춘 500대 기업의 80% 이상이 액티브 로우코드 에이전트 도구인 Ask Copilot을 활용하고 있습니다.

AI 에이전트가 모든 지역과 산업 전반에서 빠르게 확장되고 있습니다.

에이전트 도입은 EMEA부터 미주, 아시아 등에 이르기까지 전 세계 모든 지역에서 빠르게 확산되고 있습니다.2
막대 차트로 본 지역별 분포: EMEA 42%, 미국 29%, 아시아 19%, 아메리카 10%를 차지합니다.
Microsoft는 모든 산업 전반에서 에이전트 사용 증가를 확인하고 있습니다. 금융 서비스, 제조업, 소매업이 에이전트 도입을 선도하고 있습니다. 금융 서비스(은행, 자본 시장, 보험 포함)는 현재 전 세계 활성 에이전트의 약 11%를 차지하고 있습니다.2 제조업은 전 세계 에이전트 사용의 13%를 차지하며 공장, 공급망, 에너지 운영 전반에서 광범위한 도입이 이루어지고 있음을 보여 줍니다.2 소매업은 9%를 차지하며, 고객 환경 개선, 재고 관리, 현장 운영 프로세스 향상을 위해 에이전트를 적극 활용하고 있습니다.2

문제는 일부 에이전트는 IT 승인을 받았지만, 그렇지 않은 경우도 많다는 점입니다. 일부 에이전트는 안전하게 관리되고 있지만, 그렇지 않은 경우도 있습니다.
겹치는 원으로 표현한 산업 분포: 소프트웨어 및 기술 16%, 제조 13%, 금융 서비스 11%, 소매 9%.

이중 에이전트 위험

에이전트의 빠른 배포는 보안 및 규정 준수 통제를 앞지를 수 있으며, 그로 인해 섀도 AI의 위험이 증가할 수 있습니다. 악의적인 공격자는 에이전트의 접근 권한과 특권을 악용해 의도치 않은 “이중 에이전트”로 전환시킬 수 있습니다. 인간 직원과 마찬가지로, 과도한 권한을 갖거나 잘못된 지시를 받은 에이전트는 보안 취약점이 될 수 있습니다.

이중 에이전트가 관리 부실, 권한 오남용, 신뢰할 수 없는 입력에 의해 조작될 위험은 결코 단순한 이론적인 문제가 아닙니다. 최근 Microsoft Defender 팀은 여러 공격자가 AI 공격 기법인 ‘메모리 포이즈닝’을 활용해 AI 어시스턴트의 메모리를 지속적으로 조작하고, 향후 응답을 은밀히 왜곡하며 시스템 정확도를 저하시킨 사기성 캠페인을 발견했습니다.

Microsoft의 독립적이고 안전한 테스트베드 연구에서 AI 레드팀은 에이전트가 일상적인 콘텐츠에 숨겨진 악의적 지시를 따라 기만적인 인터페이스 요소에 현혹되는 사례를 문서화했습니다. 레드팀은 또한 조작된 작업 프레이밍을 통해 에이전트의 추론이 미묘하게 왜곡될 수 있음을 밝혀냈습니다. 이러한 발견은 엔터프라이즈 환경에 연결된 모든 에이전트에 대해 완전한 가시성과 관리 체계를 갖추는 것이 왜 중요한지를 보여 줍니다. 이를 통해 통제를 중앙에서 일관되게 시행하고, 위험을 통합적 접근 방식으로 중앙에서 관리할 수 있습니다.
2025년 조사에 따르면, 직원의 29%가 공식 승인되지 않은 AI 에이전트를 업무에 활용하고 있습니다.
Microsoft의 데이터 보안 지수에 따르면, 산업 전반의 조직 중 단 47%만이 특정 GenAI 보안 통제를 구현하고 있으며,3 이에 따라 안전한 AI 도입을 위한 조직의 명확한 가시성 확보가 시급한 과제로 떠오르고 있습니다. 더욱 중요한 점은, Microsoft가 Hypothesis Group에 의뢰해 1,700명 이상의 데이터 보안 전문가를 대상으로 실시한 다국적 설문 조사에 따르면 이미 29%의 직원이 승인되지 않은 AI 에이전트를 업무에 사용하고 있다는 사실입니다.4
원형 차트는 조직의 단 47%만이 생성형 AI 사용에 대한 보안 통제를 갖추고 있음을 명확히 보여줍니다.

도입이 가속화되는 가운데, 과연 몇 명의 리더가 그 이면에 숨겨진 근본적인 위험을 제대로 인지하고 있을까요? 자신의 조직 내 에이전트 현황을 파악하고 있는 리더는 얼마나 될까요? 감독되거나 관리되지 않은 AI 에이전트는 엔터프라이즈 내 위험을 증폭시켜 보안, 비즈니스 연속성, 평판에 심각한 위협을 초래하며, 결국 그 책임은 CISO와 최고경영진에게 집중됩니다. 이것이 바로 사이버 리스크 딜레마의 핵심입니다. AI 에이전트는 업무 환경에 새로운 기회를 제공하며 조직 내부 운영에 점점 더 깊숙이 통합되고 있습니다. 하지만 에이전트의 위험한 행동은 내부 위협을 증폭시키고, 이에 대비하지 못한 조직에 새로운 실패 요인을 만들어낼 수 있습니다.

 

AI의 이중적 특성이 현실이 되었습니다. 전례 없는 혁신과 동시에 전례 없는 위험이 공존하고 있습니다.

AI 에이전트를 최대한 활용하기

선도 기업들은 AI 혁신을 활용해 거버넌스를 현대화하고, 불필요한 데이터 노출을 줄이며, 전사적 통제 체계를 구축하고 있습니다. 이와 함께 문화적 전환도 이루어지고 있습니다. 비즈니스 리더가 AI 전략을 주도하더라도, IT와 보안팀이 가시성, 거버넌스, 안전한 실험의 핵심 파트너로 자리매김하고 있습니다. 이러한 조직에 있어 에이전트 보안은 제약이 아닌 경쟁력입니다. AI 에이전트를 인간과 동일하게 다루고 동일한 제로 트러스트 원칙을 적용하는 데서 비롯됩니다.

그 시작은 가시성입니다. 보이지 않는 것은 보호할 수 없고, 이해하지 못하면 관리할 수 없기 때문입니다. 가시성이란 IT, 보안, 개발자, AI 팀 등 조직 전반에 걸친 컨트롤 플레인을 구축해 다음 사항을 파악하는 것을 의미합니다.

  • 어떤 에이전트가 존재하는지
     

  • 누가 소유하고 있는지
     

  • 어떤 시스템과 데이터에 접근하는지
     

  • 어떻게 동작하는지


 

가시성은 다섯 가지 핵심 영역으로 구성됩니다.

  • 중앙 집중식 레지스트리는 조직 내 모든 에이전트(승인된 에이전트, 타사 에이전트, 새롭게 등장하는 섀도 에이전트까지)에 대한 단일 정보 소스 역할을 합니다. 이 인벤토리는 에이전트 확산을 방지하고, 책임성을 강화하며, 가시적 관리를 지원합니다. 또한 필요 시 승인되지 않은 에이전트를 제한하거나 격리할 수 있도록 합니다.
  • 각 에이전트는 인간 사용자와 애플리케이션에 적용되는 것과 동일한 신원 및 정책 기반 접근 통제로 엄격히 관리됩니다. 최소 권한 원칙이 일관되게 적용되어, 에이전트가 자신의 역할 수행에 필요한 데이터, 시스템, 워크플로에만 접근하도록 보장합니다. 그 이상도 이하도 아닙니다.
  • 실시간 대시보드와 텔레메트리는 에이전트가 사람, 데이터, 시스템과 어떻게 상호 작용하는지에 대한 깊은 인사이트를 제공합니다. 리더는 에이전트의 활동 위치를 파악하고, 의존 관계를 이해하며, 행동과 영향을 모니터링하여 오용, 드리프트, 새로운 위험을 더욱 신속히 감지할 수 있습니다.
  • 에이전트는 Microsoft 플랫폼, 오픈소스 프레임워크, 타사 생태계 전반에서 일관된 거버넌스 모델 하에 운영됩니다. 이러한 상호 운용성 덕분에 에이전트는 워크플로 전반에서 사람 및 다른 에이전트와 협업하면서도 동일한 엔터프라이즈 통제 내에서 안전하게 관리됩니다.
  • 내장된 보호 기능은 내부 오용과 외부 위협으로부터 에이전트를 견고하게 보호합니다. 보안 신호, 정책 집행, 통합 도구를 통해 조직은 손상되거나 부적절한 에이전트를 조기에 감지하고 신속히 대응하여, 문제가 비즈니스, 규제, 평판 손상으로 확대되기 전에 차단할 수 있습니다.

격차 해소: AI 거버넌스 및 보안 체크리스트

AI 위험을 통제하는 방법은 명확합니다. AI 에이전트를 일반 직원이나 소프트웨어 서비스 계정과 동일한 엄격한 기준으로 관리해야 합니다. 체크리스트에 포함해야 할 7가지 사항은 다음과 같습니다.
  • 각 에이전트의 목적을 명확히 문서화하고, 필요한 최소한의 액세스 권한만 부여하세요. 불필요한 광범위 권한은 금지합니다.
  • AI 채널에도 데이터 보호 규칙을 엄격히 적용하세요. 감사 기록을 철저히 유지하고, AI 생성형 콘텐츠에 반드시 레이블을 부착하세요.
  • 섀도 AI를 억제하기 위해 안전한 대안을 제공하세요. 허가되지 않은 앱은 반드시 차단하세요.
  • AI 관련 시나리오에 맞춰 비즈니스 연속성 매뉴얼을 업데이트하세요. 신원, 데이터, 위협 영역 전반에 걸쳐 모의 훈련을 실시하고 가시성 지표를 추적하세요.
  • 지금 바로 AI 거버넌스를 구축하고 자가 규제를 시작하세요. 학습 데이터 문서화, 편향 평가, 법률·데이터·보안 전반에 걸친 인간의 감독 체계를 확립해야 합니다. 그래야 규정 준수가 사후적으로 덧붙여지는 것이 아니라, 처음부터 내재화될 수 있습니다.
  • AI 위험 관리를 엔터프라이즈 차원으로 격상하세요. 경영진 책임 강화, 측정 가능한 KPI 설정, 이사회 차원의 가시성 확보를 통해 재무 및 운영 리스크와 함께 통합 관리하세요.
  • 직원들에게 안전한 AI 활용법을 교육하세요. 투명성과 협업 문화를 장려하세요.

AI 에이전트 성공을 이끄는 조직은 관찰 가능성, 거버넌스, 보안을 최우선으로 합니다. 이를 위해서는 IT 전문가, 보안팀, AI팀, 개발자를 포함한 모든 조직 계층에서 AI 에이전트를 가시화하고, 모든 팀 전반에서 협업을 실현해야 합니다. 이러한 모든 요소는 통합된 중앙 제어 플랫폼을 통해 관리하고 관찰할 수 있습니다.

Agent 365는 조직 전반의 AI 에이전트를 통합 관리하는 Microsoft의 단일 제어 플랫폼입니다. Microsoft 플랫폼, 오픈소스 프레임워크, 타사 시스템 등 다양한 환경에서 구축된 에이전트 여부와 관계없이, AI 에이전트 등록, 거버넌스, 보호, 모니터링, 운영할 수 있는 중앙 집중식 엔터프라이즈 차원의 시스템을 제공합니다. AI 및 에이전트 보안을 지원하는 Microsoft 제품과 서비스에 대한 자세한 내용은 여기에서 확인하세요.
파란 배경에 AI 애플리케이션, AI 거버넌스, AI 규정 준수 가이드를 보여 주는 Microsoft Security 리소스 카드
AI 보안 가이드

AI 기반 엔터프라이즈 보안을 위한 Microsoft 가이드

AI 애플리케이션을 거버넌스하고 보호하는 방법을 포함하여, AI의 강력한 기반을 구축하고 규정 준수를 유지하는 데 도움이 되는 가이드를 확인하세요.
가이드 읽기

리소스 더 보기

공유 작업 영역에서 노트북으로 작업하면서 스마트폰으로 정보를 확인하는 한 사람

Microsoft 데이터 보안 지수

생성형 AI가 데이터 보안을 어떻게 변화시키고 있는지에 대한 인사이트를 확인하세요.
보고서 읽기
무대 위 발표자가 서 있고, 화면에는 understanding the risks placing the right controls measuring and monitoring이라는 문구가 표시된 이미지

신뢰받는 AI로 기회 가속화

Microsoft 리더들이 AI 여정 전 단계에 신뢰를 구축하는 실질적인 방법을 공유하는 내용을 확인하세요.
웨비나 시청하기
파란색과 흰색 아이콘으로, 봉투 안에 종이가 있고 New라는 텍스트가 표시된 이미지

CISO 다이제스트 받아보기

격월로 발송되는 이 전자 메일 시리즈를 통해 전문가 인사이트, 업계 동향, 보안 연구 자료를 미리 확인하고 한발 앞서 나가세요.
등록
  1. [1]
    2025년 11월 마지막 28일 동안 Microsoft Copilot Studio 또는 Microsoft Agent Builder로 제작되어 사용된 Microsoft 자체 텔레메트리 기반 에이전트 데이터를 바탕으로 합니다.
  2. [2]
    2025년 11월 마지막 28일 동안 사용된 Microsoft Copilot Studio 또는 Microsoft Agent Builder로 제작되어 사용된 Microsoft 자체 텔레메트리 기반 에이전트 데이터를 바탕으로 합니다.
  3. [3]
    2025년 7월, Microsoft가 Hypothesis Group에 의뢰해 1,700명 이상의 데이터 보안 전문가를 대상으로 실시한 다국적 설문 조사
  4. [4]

    Microsoft 데이터 보안 지수 2026: 데이터 보호와 AI 혁신의 통합, Microsoft Security, 2026

     

    방법론:

     

    2025년 11월 마지막 28일 동안 사용된 Microsoft Copilot Studio 또는 Microsoft Agent Builder로 제작되어 사용된 Microsoft 자체 텔레메트리 기반 에이전트 데이터를 바탕으로 합니다.

     

    2026 데이터 보안 지수:

     

    2025년 7월 16일부터 8월 11일까지 1,725명의 데이터 보안 리더를 대상으로 25분간 다국적 온라인 설문 조사가 진행되었습니다.

     

    설문 문항은 데이터 보안 환경, 데이터 보안 인시던트, 직원의 생성형 AI(GenAI) 사용 보안, 데이터 보안 프로그램 내 GenAI 활용을 중심으로 구성되었으며, 2024년과의 비교를 강조했습니다.

     

    미국과 영국의 데이터 보안 리더 10명을 대상으로 1시간 심층 인터뷰를 진행해 각 조직에서 데이터 보안을 어떻게 접근하고 있는지에 대한 생생한 사례를 수집했습니다.

     

    정의:

     

    활성 에이전트란 1) 운영 환경에 배포되었으며 2) 최근 28일 동안 실제 활동이 확인된 에이전트를 의미합니다.

     

    “실제 활동”은 1명 이상의 사용자와 상호 작용한 경우(지원 에이전트) 또는 1회 이상의 자율 실행이 이루어진 경우(자율 에이전트)를 뜻합니다.

Microsoft Security 팔로우