“회사 기밀은 AI에 넣지 마세요.” 이 문장만으로 직원이 행동을 결정하기는 어렵습니다. 고객 이름을 지우면 되는지, 계약서 일부는 괜찮은지, 회사 계정과 개인 계정의 기준이 같은지 남는 질문이 많기 때문입니다.
사내 AI 보안 정책에는 허용 도구와 데이터, 검토 책임, 예외 신청 경로가 함께 있어야 합니다. 이 글은 정책 설계를 위한 실무 초안입니다. 아래 분류는 회사 내부 규칙의 예시이며 특정 법률의 데이터 분류나 법적 요건을 대신하지 않습니다.
1. 승인 대상을 서비스·플랜·기능 단위로 적으세요
서비스 이름 하나만 승인하면 개인 계정, 회사 계정, API, 외부 연결 기능의 차이를 놓칠 수 있습니다. 승인 목록에는 서비스명, 계약 플랜, 회사 워크스페이스, 허용 기능, 데이터 범위, 담당자, 재검토일을 적습니다.
예를 들어 문서 초안 작성은 허용하되 외부 앱 연결은 별도 검토로 둘 수 있습니다. 웹 검색, 파일 업로드, 자동 발송, 에이전트 기능은 각각 데이터가 어디로 이동하고 어떤 행동이 가능한지 확인합니다.
Microsoft의 공식 문서는 Copilot의 조직 데이터 처리와 함께 웹 검색, 연결된 에이전트, 외부 모델에 대한 별도 고려사항도 설명합니다. 이를 모든 기업용 AI에 동일하게 적용되는 약속으로 해석하지 말고, 계약할 서비스의 실제 조건을 확인하세요. Microsoft 공식 데이터·개인정보·보안 안내
2. 직원이 판단할 수 있는 데이터 예시를 주세요
| 내부 분류 예시 | 자료 예시 | 사용 규칙 예시 |
|---|---|---|
| 공개 | 공개된 보도자료·제품 소개 | 승인된 업무용 도구에서 사용 |
| 내부 일반 | 공개 전 사내 공지·업무 양식 | 승인된 회사 계정과 목적 범위에서 사용 |
| 제한 | 고객 정보·계약 조건·비공개 매출 | 정보 소유자와 보안 담당자가 허용 범위 검토 |
| 입력 금지 | 비밀번호·API 비밀키·인증 토큰 | 대화·첨부·지식 저장소에 입력하지 않음 |
“이름을 지우면 모두 허용” 같은 규칙은 피합니다. 거래 내역, 직책, 날짜를 조합해 개인이나 고객사를 알아볼 수도 있습니다. 필요한 정보만 남기고도 작업할 수 있는지 먼저 확인하고, 판단이 어렵다면 자료 소유자에게 검토를 요청하게 합니다.
3. 학습 이용·보관·접근을 따로 확인하세요
입력 자료를 모델 학습에 쓰는지, 서비스 운영상 얼마나 저장하는지, 누가 열람할 수 있는지는 서로 다른 질문입니다. “학습에 사용하지 않는다”는 설명만으로 기록이 전혀 남지 않는다고 판단할 수 없습니다.
대화, 첨부파일, 검색 색인, 로그, 백업마다 보관·삭제 조건을 확인하세요. 관리자가 볼 수 있는 기록과 일반 직원이 볼 수 있는 자료도 구분합니다. 문서 연결 시에는 사용자별 권한과 공유 해제·퇴사 후 접근 차단이 반영되는지 시험합니다.
4. 출력 검수와 실행 승인을 구분하세요
외부에 나갈 보고서와 고객 답변은 담당자가 사실, 숫자, 출처, 공개 가능 범위를 확인하도록 정합니다. AI가 작성한 문구의 책임자가 누구인지도 명시하세요.
메일 발송, 계약 변경, 결제처럼 외부 영향이 있는 작업에는 실행 직전의 승인과 권한 확인이 필요합니다. OWASP는 프롬프트 인젝션의 위험을 설명하면서 최소 권한, 고위험 작업의 사람 승인, 공격 시험을 완화 조치로 제시합니다. “기밀을 유출하지 마”라는 지시만으로 통제를 끝내지 마세요. OWASP 프롬프트 인젝션 안내
5. 직원용 한 페이지 규칙 예시
다음 문구에서 대괄호 부분을 조직의 실제 절차로 채워 활용할 수 있습니다.
- 업무에는 [승인 목록]의 회사 계정과 허용 기능을 사용합니다.
- 고객 정보와 비공개 계약 자료는 [검토 담당자]가 승인한 범위에서만 처리합니다.
- 비밀번호, 비밀키, 인증 토큰은 입력하거나 첨부하지 않습니다.
- 외부 공유 전 담당자가 사실·출처·개인정보·공개 범위를 확인합니다.
- 외부 발송과 데이터 변경은 정해진 권한 확인과 승인 절차를 따릅니다.
- 자료 오입력이나 수상한 동작을 발견하면 [신고 채널]로 즉시 알립니다.
- 새 도구와 기능이 필요하면 [예외 신청 경로]로 목적·자료·기간을 제출합니다.
직원 안내문 뒤에는 관리자의 승인 목록과 상세 운영 절차를 연결하세요. 문의할 곳이 없는 금지 규칙은 현장의 판단 부담을 키웁니다.
6. 사고와 예외도 운영 절차에 넣으세요
자료를 잘못 입력했다면 추가 공유를 멈추고 서비스·계정·발생 시각·자료 유형을 신고하도록 합니다. 신고 과정에서 민감한 원문을 다시 복사하게 하지 않습니다. 담당자는 접근 제한, 삭제 요청, 비밀키 폐기·재발급 등 필요한 조치를 판단합니다. 사용자 화면에서 대화를 삭제했다고 모든 보관본이 제거되었다고 단정하지 않습니다.
예외 승인에는 목적, 허용 자료, 기능, 책임자, 만료일을 적습니다. 계약 변경, 신규 연결, 모델·기능 변경, 사고 발생 시 정책을 재검토하는 조건도 정해두세요.
더 읽기: 기업 AI 도입 보안 체크리스트, 전사 AI Enterprise 도입 계획, AI 서비스 기획서
공식 자료 확인일: 2026년 10월 24일. 개인정보 처리와 계약상 의무의 적용 여부는 실제 자료와 이용 방식에 따라 담당 부서가 별도로 검토해야 합니다.