기존 DLP만으로는 AI 구간을 통제할 수 없습니다

AI 도입보다 통제가 늦어지고 있습니다

AI를 업무에 사용하는 것은 더 이상 먼 이야기가 아닙니다. 문서 요약, 코드 작성, 고객 응대 초안, 사내 문서 검색처럼 이미 여러 업무에서 사용되고 있습니다. 금융권에서도 AI 활용을 전제로 한 가이드라인과 제도 정비가 이어지고 있습니다.

문제는 AI를 사용하는 속도와 이를 관리하는 속도 사이에 차이가 생기고 있다는 점입니다.

AI는 새로운 업무 도구이기도 하지만, 보안 관점에서는 새로운 정보 이동 경로이기도 합니다.

기존 DLP는 파일과 문서가 이동하는 경로를 중심으로 설계되어 왔습니다. 그런데 AI에서는 파일을 만들거나 첨부하지 않고도 정보가 전달됩니다. 반대로 AI가 외부에서 받은 내용을 다시 내부로 전달하기도 합니다.

그래서 한 가지 질문이 생깁니다.

기존 DLP를 확장해 해결할 수 있는 문제일까요, 아니면 AI에 맞는 별도의 통제가 필요한 문제일까요.

실제 사용 환경을 보면 차이가 드러납니다.

1. 감시하는 지점이 다릅니다

기존 DLP가 주로 보는 것은 파일과 첨부입니다. 메일에 파일을 붙이거나 USB로 복사하거나 웹을 통해 문서를 업로드하는 것처럼, 정보가 파일 형태로 이동하는 지점이 주요 감시 대상입니다.

AI에서는 파일 없이도 정보가 이동합니다. 사용자가 대화창에 문장을 직접 입력하면 됩니다.

"이번 분기 고객 이탈 현황을 정리해줘."

여기에 내부 수치나 고객 정보를 조금씩 덧붙여 질문을 이어갈 수도 있습니다. 파일은 이동하지 않았지만 회사의 정보는 외부 AI로 전달됩니다.

AI 환경에서는 파일의 이동만으로 정보 흐름 전체를 설명하기 어렵습니다.

2. 한 번의 요청만 봐서는 판단하기 어렵습니다

파일은 대체로 하나의 단위로 볼 수 있습니다. 반면 AI 대화는 계속 이어집니다. 예를 들어 다음과 같이 입력한다고 해보겠습니다.

1. 첫 번째 요청에 고객사명을 입력합니다

2. 다음 요청에 담당자와 직위를 입력합니다

3. 그다음 요청에 계약 단가와 조건을 입력합니다

각 요청만 따로 보면 민감한 정보로 판단하기 어려울 수 있습니다. 하지만 대화 전체를 보면 특정 거래의 조건이 완성됩니다.

사용자가 우회하려고 해서만 발생하는 상황도 아닙니다. 실제 업무에서는 하나의 질문을 여러 단계로 나누어 입력하는 일이 자연스럽기 때문입니다.

따라서 AI 환경에서는 현재 요청뿐 아니라 앞선 대화의 맥락까지 함께 보는 방식이 필요합니다.

3. 형식보다 내용이 중요해집니다

기존 DLP가 잘 잡아내는 정보에는 일정한 형식이 있습니다. 주민등록번호, 카드번호, 계좌번호처럼 규칙이 정해져 있는 정보입니다. AI에 입력되는 정보에는 정해진 형식이 없는 경우가 많습니다.

이런 정보는 단순한 패턴만으로 판단하기 어렵습니다. 문장이 어떤 내용을 담고 있는지, 앞뒤 맥락에서 어떤 의미를 갖는지를 함께 봐야 합니다.

AI 환경에서 의미와 맥락 기반 판정이 중요해지는 이유입니다.

4. 입력뿐 아니라 응답도 봐야 합니다

기존 DLP는 주로 정보가 외부로 나가는 과정을 관리합니다.

AI는 입력으로 끝나지 않습니다. 사용자가 질문하면 AI가 답을 돌려줍니다. 이 응답에서도 보안 문제가 발생할 수 있습니다.

• 사내 문서를 참조한 AI가 권한 없는 사용자에게 내용을 보여줄 수 있습니다

• 여러 문서의 정보가 결합되어 새로운 민감정보가 만들어질 수 있습니다

• AI가 생성한 내용이 충분한 검증 없이 업무에 사용될 수도 있습니다

특히 사내 AI나 AI 에이전트가 업무 시스템과 연결되면 이 문제는 더 중요해집니다.

무엇을 입력했는지만 보는 것이 아니라, AI가 무엇을 반환하는지도 함께 확인해야 합니다.

5. 정보 유출 외에 새로운 공격이 생깁니다

기존 DLP가 주로 다루는 문제는 정보가 외부로 나가는 것입니다. AI 환경에서는 여기에 AI의 동작 자체를 바꾸는 공격이 추가됩니다. 대표적인 사례가 프롬프트 인젝션입니다.

사용자가 외부에서 받은 문서를 AI에게 요약해 달라고 올리는 경우를 생각해보겠습니다.

문서 안에 사용자가 의도하지 않은 AI 지시문이 포함되어 있을 수 있습니다. 사용자는 문서를 올렸을 뿐이지만, AI가 그 내용을 명령으로 해석하면 예상하지 못한 동작이 발생할 수 있습니다.

AI 에이전트가 업무 시스템과 연결되어 있다면 영향 범위는 더 커질 수 있습니다. 단순한 답변을 넘어 조회, 전송, 등록 같은 실제 업무 동작으로 이어질 수 있기 때문입니다.

이런 위협은 주민등록번호처럼 정해진 패턴만으로 판단하기 어렵습니다. 입력 내용이 AI의 동작에 어떤 영향을 미치는지까지 살펴봐야 합니다.

6. 차단만으로는 AI 업무를 관리하기 어렵습니다

기존 DLP에서는 파일을 허용할지 차단할지를 판단하는 경우가 많습니다. AI에서는 그 사이에 여러 선택지가 필요합니다.

AI를 업무에 적극적으로 활용하려면 모든 위험 요청을 일괄적으로 차단하는 방식만으로는 운영하기 어렵습니다.

위험도가 낮은 요청은 그대로 진행하고, 민감한 요청은 일부 정보를 가리거나 승인을 거치게 하는 식으로 위험도에 따라 대응 수준을 나누는 방식이 필요합니다. 그래야 AI 활용과 보안을 함께 가져갈 수 있습니다.

7. 남겨야 하는 기록도 달라집니다

기존 DLP의 로그는 주로 반출 이력을 확인하기 위한 것입니다. 누가, 언제, 어떤 파일을 어디로 보냈는지가 남습니다.

AI 환경에서는 한 가지가 더 필요합니다. 왜 해당 요청을 허용하거나 차단했는지 확인할 수 있어야 합니다.

요청 내용과 응답 내용, 판정 결과와 판단 근거까지 함께 남겨야 하는 상황이 생깁니다.

특히 금융권처럼 AI 사용에 대한 통제와 점검이 요구되는 환경에서는 이러한 기록이 사후 점검이나 규제 대응의 근거로 활용될 수 있습니다.

따라서 실제 통제 과정과 판단 근거를 확인할 수 있는 기록이 중요해집니다.

AI DLP는 기존 DLP를 대체하는 제품이 아닙니다

일곱 가지를 놓고 보면 두 제품이 다루는 통제 구간이 달라집니다.

기존 DLP가 담당하던 파일 반출 영역은 그대로 필요합니다. AI DLP가 추가로 보는 것은 그동안 관리하기 어려웠던 AI 대화와 응답, AI를 통한 정보 흐름입니다.

따라서 기존 DLP를 없애는 문제가 아니라, AI가 새롭게 만든 통제 구간을 어떻게 관리할 것인가의 문제에 가깝습니다.

기존 DLP에 AI 기능이 있다면 무엇을 봐야 할까요

기존 DLP 공급사들도 AI 프롬프트 검사나 생성형 AI 관련 기능을 추가하고 있습니다. 이때 중요한 것은 제품 이름이나 'AI 기능이 있다'는 사실 자체가 아닙니다. 실제로 어디까지 통제할 수 있는지를 확인해야 합니다.

1. 대화의 앞뒤 맥락을 함께 볼 수 있는가

2. 형식이 없는 정보를 의미 기준으로 판단할 수 있는가

3. AI의 응답까지 검사할 수 있는가

4. 프롬프트 인젝션처럼 AI 특유의 위협을 다룰 수 있는가

5. 마스킹, 경고, 승인, 차단 등 여러 조치가 가능한가

6. 판단 근거와 처리 과정을 기록할 수 있는가

결국 중요한 질문은 이것입니다.

"AI 기능이 있느냐"가 아니라, "AI 환경에서 어디까지 통제할 수 있느냐"입니다.

AI 도입과 통제는 함께 설계해야 합니다

AI를 먼저 도입하고 보안은 나중에 붙이는 방식으로 가면 통제되지 않는 사용 구간이 생길 수 있습니다.

한 번 외부로 전달된 정보는 회수하기 어렵습니다. 기록이 없다면 사후에 어떤 정보가 오갔는지도 확인하기 어렵습니다.

따라서 AI 도입을 준비할 때 서비스를 여는 것과 통제 체계를 마련하는 것을 별개의 단계로 두지 않는 것이 중요합니다.

기존 DLP는 계속 파일과 첨부 경로를 담당합니다. 그 위에 AI 대화와 응답, 사내 AI 호출, 에이전트 호출처럼 AI가 새롭게 만든 정보 흐름을 관리하는 계층이 필요합니다.

AI DLP의 역할은 기존 보안을 대신하는 것이 아니라, 기존 보안이 담당하지 않던 AI 구간을 잇는 것입니다.

지금 운영 중인 보안 체계가 AI 환경까지 제대로 통제하고 있는지 확인해보세요.
기존 DLP가 놓치고 있는 AI 대화, 응답, 에이전트 호출 등 새로운 정보 흐름까지 구간별로 진단해드립니다. (상담 신청하기)

함께 보면 좋은 글

• 망분리 다음 질문: AI DLP는 어디까지 막는가: 데이터가 다니는 네 갈래 길

• AI 챗봇 뚫리면, 학생 개인정보는 어디까지 노출될까요?: 63개 시나리오로 방어력을 먼저 재본 사례

• 금융권 AI 보안 시리즈 (3/3): 새로 짓지 않습니다, 길목에 방어선을 더합니다

본 글은 AI 보안 및 DLP의 일반적인 통제 영역을 설명하기 위한 내용이며, 특정 제품이나 공급사를 지칭하지 않습니다.