이런 상황을 상상해 보세요. 사용자가 Copilot에 민감한 내용을 입력했습니다. 이제 여러분은 그 데이터에 무슨 일이 일어날지, 외부 유출을 어떻게 막을지, 그리고 사후 처리는 어떻게 해야 할지 고민하게 됩니다.
이는 제가 고객들과 자주 나누는 대화 주제이기도 합니다. 일이 터진 후에 수습하는 것이 아니라, 어떻게 하면 Copilot에 입력되는 정보를 선제적으로 보안하고 민감한 정보가 외부로 나가는 것을 차단할 수 있을까요?
Copilot의 '웹 그라운딩(Web Grounding)' 기능은 질문에 답하기 위해 더 많은 맥락이 필요할 때 프롬프트를 Bing 검색으로 보냅니다. 이는 매우 유용하지만, 동시에 문제가 되기도 합니다. 프롬프트가 테넌트 경계를 넘어 Bing으로 전달되는 순간, 해당 데이터는 더 이상 Microsoft 계약 내의 개인정보 보호 및 보안 약관의 적용을 받지 않기 때문입니다.
한동안 이 문제를 해결하는 방법은 웹 그라운딩 기능을 아예 꺼버리는 것이었습니다. 하지만 이는 보안 공백은 메울 수 있어도 사용자에게는 기능이 제한된 약한 버전의 Copilot을 제공하는 결과로 이어졌습니다.
이에 대한 Microsoft의 해답은 Purview의 데이터 손실 방지(DLP) 기능을 Copilot 프롬프트까지 확장하는 것이었습니다. 이를 통해 IT 팀이 그토록 원했던 선제적 제어 기능을 제공하게 되었습니다. 저는 전직 CISO이자 Purview 솔루션 엔지니어인 Arlie와 함께 이 기능이 어떻게 작동하는지 이야기를 나누어 보았습니다.
저는 수석 솔루션 엔지니어인 Arlie Hartman과 자리를 같이하여 Copilot 프롬프트를 위한 DLP에 대해 논의했습니다.
프롬프트를 차단하는 두 가지 방법
Microsoft가 처음 선보인 버전은 Copilot이 프롬프트 자체를 처리하지 못하게 중단시키는 것이었습니다. 프롬프트가 민감한 정보 유형(SIT)이나 사용자 지정 키워드 목록을 기반으로 한 DLP 규칙과 일치하면, 사용자는 "귀하의 조직에서 Copilot의 처리 또는 응답을 차단했으므로 이 요청을 완료할 수 없습니다."라는 단호한 응답을 받게 됩니다.
이 방식도 효과적이었지만 고객들은 더 많은 것을 원했습니다. 사용자가 웹 검색을 호출하지 않고도, Copilot이 기존 지식과 테넌트의 Microsoft Graph 데이터에 있는 내용을 사용하여 계속해서 추론하고 답변하기를 원했던 것이죠. 그래서 Microsoft는 두 번째 조치인 '웹 그라운딩만 차단' 기능을 추가했습니다. 이 경우 Copilot은 답변을 제공하되, 조직의 보안 정책으로 인해 웹 검색을 사용할 수 없음을 사용자에게 알립니다.
정책 구축하기
Purview에서 DLP 정책을 만들어 'Microsoft 365 Copilot 및 Copilot Chat' 워크로드로 범위를 지정한 다음, 특정 사용자 또는 그룹을 지정하면 됩니다. 정책 내부에서는 조건과 조치로 구성된 규칙을 만듭니다. 예를 들어 프롬프트에 민감한 정보 유형, 사용자 지정 키워드 목록이 포함되어 있거나 민감도 레이블과 일치하는 경우, 프롬프트를 차단하거나 웹 검색을 차단하도록 설정하는 식입니다.
여기서 한 가지 주의할 점이 있습니다. 각 규칙은 이 두 가지 조치 중 하나만 취할 수 있으며, 하나의 규칙 내에서 민감도 레이블 조건과 민감한 정보 유형 조건을 결합할 수 없습니다. 두 가지를 모두 적용하고 싶다면 정책을 두 개 만들어야 합니다. Arlie는 이를 키워드 기반 차단 정책과 민감도 레이블 기반 웹 검색 제한 정책으로 나누어 관리합니다.
민감도 레이블은 또 다른 보안 계층을 추가합니다. 문서에 '극비(Highly Confidential)' 레이블을 지정하면 Copilot이 해당 문서에 아예 접근하지 못하게 하거나, 요약 및 재구성 작업은 허용하되 해당 콘텐츠로 인해 웹 검색이 트리거되지 않도록 막을 수 있습니다.
로그에서 확인할 수 있는 내용
Purview 전체 제품군을 사용하면 모든 Copilot 상호 작용이 Activity Explorer의 'AI 활동(AI activity)' 탭에 기록됩니다. 여기서 프롬프트 내용, 매칭된 규칙, 신뢰도 점수, 그리고 차단되었는지 아니면 단순히 플래그만 지정되었는지 등을 확인할 수 있습니다. 정책과 날짜 범위를 필터링하여 특정 규칙이 얼마나 잘 작동하는지 모니터링해 보세요.
여기서 '시뮬레이션 모드'가 빛을 발합니다. 규칙을 실제로 적용하기 전에 일주일 정도 시뮬레이션으로 실행해 보세요. 사용자에게 차단 메시지를 띄우지 않으면서도 DLP 위반 사례가 로그에 기록됩니다. 이를 통해 관리자가 오탐지에 파묻히지 않도록 규칙을 정교하게 다듬을 수 있습니다.
라이선스
Copilot 프롬프트를 위한 DLP는 E5 라이선스에 포함된 Purview 제품군 중 하나인 'Information Protection and Governance' 라이선스가 필요합니다. E3 라이선스로는 이 기능을 사용할 수 없습니다.
하나의 정책으로 Copilot Chat과 Microsoft 365 Copilot 전체를 모두 커버할 수 있습니다. 조직에 Copilot Chat을 널리 배포하고 일부 사용자에게만 Microsoft 365 Copilot 라이선스를 부여하더라도, DLP 정책은 사용자가 어떤 Copilot 라이선스를 사용하든 관계없이 모두에게 적용됩니다.
보안 전략의 관점
그동안 AI 도구와 관련된 대부분의 보안은 사후 대응적이었습니다. 정보가 유출되면 이를 감사하고 나중에 사용자를 교육하는 식이었죠. 하지만 이 기능을 통해 IT 팀은 사용자의 업무 능력과 조직 보호 사이의 균형을 맞출 수 있게 되었습니다. 민감한 데이터가 평문 형태로 외부로 유출되는 것을 사전에 방지하면서도, 사용자는 여전히 Copilot의 가치를 누릴 수 있습니다.
현재 E5 라이선스를 사용 중인데 아직 이 기능을 살펴보지 않으셨다면, 이번 주에 시뮬레이션 모드로 정책을 하나 설정해서 현재 어떤 데이터들이 오가고 있는지 확인해 보시기 바랍니다.