Microsoft Copilot Studio의 실시간 보호 기능으로 에이전트 보안 강화

AI 에이전트가 중요한 비즈니스 워크플로에 점점 더 많이 통합됨에 따라 강력한 보안의 필요성이 커지고 있다. Microsoft Copilot Studio는 이미 에이전트 조작에 대한 강력한 내장 보호 기능을 포함하고 있지만, 더 깊은 감독과 능동적이고 반응적인 제어가 필요한 조직을 위해 새로운 기능이 공개 미리 보기로 제공된다. 이는 에이전트 런타임 동안의 실시간 보호 기능으로 보안을 강화한다.

이 기능은 Microsoft Defender와 같은 모니터링 시스템뿐만 아니라 다른 공급업체의 보안 플랫폼 또는 자체 제작 도구를 연결하여 AI 에이전트의 보안을 강화한다. 이러한 통합은 런타임 동안 에이전트 행동의 실시간 평가와 제어를 가능하게 한다.

외부 시스템이 연결되면 에이전트의 의사 결정 과정의 일부가 된다. 예를 들어, 외부 시스템이 에이전트가 정보를 과도하게 공유하는 이메일을 보내려 한다고 판단하면 이메일 전송을 차단할 수 있다. 관리자는 Power Platform Admin Center를 통해 여러 에이전트와 환경에 이러한 보호 기능을 적용할 수 있다.

AI 에이전트는 고유한 위협에 직면해 있다. 주요 위험 중 하나는 외부 소스에서 에이전트로의 프롬프트 주입(교차 프롬프트 주입 공격, XPIA)으로, 악의적인 프롬프트가 에이전트를 속여 데이터를 유출하거나 도구를 오용하게 만든다. Copilot Studio는 기본적으로 XPIA 및 사용자 프롬프트 주입 공격(UPIA)에 대한 보호 기능을 포함하고 있다.

고급 보안 요구 사항이 있는 조직의 경우, 내장 보호 기능만으로는 충분하지 않을 수 있다. 이때 실시간 보호 기능이 추가적인 방어 계층을 제공한다. 고급 런타임 보호 기능을 통해 Copilot Studio는 에이전트 런타임 동안 연결된 보안 시스템을 호출한다. 시스템은 에이전트의 계획된 행동을 검토하고 승인 여부를 결정한다.

이 설정은 사용자 경험을 유지하면서 에이전트 행동에 대한 더 강력한 제어를 제공한다. 또한, Copilot Studio는 외부 시스템과의 모든 상호작용에 대한 상세한 감사 로그를 생성한다. 관리자는 이러한 로그를 사용하여 침입 시도를 추적하고 취약한 에이전트를 식별하며 향후 배포를 개선할 수 있다.