AI 서비스 기획서에 대화 화면과 기능 목록만 있으면 개발 중에 같은 질문이 반복됩니다. 어떤 자료로 답할지, 정보가 없으면 어떻게 할지, 답변이 충분히 좋은지는 누가 판단할지입니다.
AI 서비스 기획은 사용자의 요청부터 결과 확인까지 연결하는 작업입니다. 이 글에서는 사내 출장 규정을 안내하는 AI를 예로 들어, 기획서에 넣을 항목과 복사해 쓸 양식을 정리합니다. 아래 구조와 통과 조건은 NeedThisAI의 실무 제안입니다.
1. 첫 문장에 사용자와 완료 조건을 쓰세요
“사내 지식 챗봇 구축” 대신 “직원이 출장비 정산에 필요한 서류와 신청 위치를 현재 규정에서 확인한다”라고 적습니다. 이렇게 쓰면 문서를 찾아주는 것과 정산을 승인하는 것이 서로 다른 범위임을 구분할 수 있습니다.
첫 버전에서는 규정 안내와 원문 연결까지 제공하고, 신청서 제출이나 비용 승인은 제외할 수 있습니다. 처리 범위가 좁아야 평가와 책임도 구체적으로 정할 수 있습니다.
2. 자료와 접근 권한도 요구사항입니다
다음 항목을 자료 목록에 포함하세요.
| 항목 | 출장 규정 안내의 예 |
|---|---|
| 기준 자료 | 인사팀이 승인한 출장·정산 규정 |
| 소유자 | 규정 변경을 확인하는 부서 담당자 |
| 버전 | 적용일과 개정 이력이 확인되는 원본 |
| 접근 범위 | 직원 공통 문서와 제한 문서의 구분 |
| 갱신 조건 | 규정 개정·권한 변경 후 반영 확인 |
| 충돌 대응 | 같은 항목의 규정이 다르면 담당자에게 확인 |
검색 증강 생성(RAG)은 관련 자료를 찾아 모델의 답변에 참고시키는 구성입니다. 자료를 연결했다는 이유만으로 정답이나 보안이 보장되지는 않습니다. 오래된 문서와 과도한 공유 권한을 그대로 연결하면 그 문제도 함께 들어갑니다.
Microsoft의 Copilot 공식 문서는 사용자가 접근 권한을 가진 조직 자료를 바탕으로 응답한다고 설명합니다. 이 사례처럼 도입할 서비스가 어떤 권한을 사용하는지 확인하고, 원본 권한 자체가 적절한지도 시험해야 합니다. Microsoft 데이터·개인정보·보안 안내
3. 정상·정보 부족·실패 화면을 함께 설계하세요
정상 답변에는 요약, 적용 조건, 근거 문서, 다음 행동을 보여줍니다. 근거가 없을 때는 추측한 답변 대신 확인할 수 없다는 설명과 문의 경로를 제공합니다.
예를 들어 “해외 출장 식대 한도가 얼마인가요?”라는 질문에 국가와 직급별 조건이 필요하다면 추가 질문을 합니다. 연결 장애가 나면 규정 포털의 원본 링크나 담당 부서를 안내합니다. 사용자가 답변을 수정하거나 잘못된 출처를 신고하는 경로도 설계하세요.
모델이 만든 확신 표현만으로 “정확도 98%” 같은 표시를 붙이지 않습니다. 그런 수치를 쓰려면 무엇을 측정했는지와 실제 신뢰도를 검증할 근거가 필요합니다.
4. 바로 복사할 AI 서비스 기획서 양식
서비스명:
사용자와 발생 상황:
현재 업무 흐름과 문제:
사용자가 일을 끝냈다고 판단할 조건:
첫 버전에 포함할 일:
이번에 제외할 일:
입력 자료와 입력하지 않을 정보:
기준 문서·소유자·적용일:
사용자별 조회·실행 권한:
정상 결과의 필수 항목:
추가 질문을 해야 하는 조건:
근거 부족·문서 충돌 시 처리:
장애 시 수동 경로:
외부 발송·변경 작업의 승인 단계:
평가 질문·기대 결과·채점 담당자:
출시 통과 조건과 중대한 실패 기준:
응답 시간·사용량·비용 제한:
기록할 운영 정보와 보관 기준:
변경 후 재평가·중단·복구 담당자:
모든 칸을 길게 채우기보다 아직 결정하지 못한 항목에 담당자와 결정 기한을 적습니다. 개발팀이 추측해서 구현해야 하는 빈칸을 줄이는 것이 목적입니다.
5. 출시 조건을 관찰할 수 있는 문장으로 바꾸세요
“정확하게 답한다” 대신 “평가 질문별 정답과 필수 조건을 충족하고, 답이 없는 질문에는 확인 불가를 안내한다”라고 씁니다. 권한 시험에는 다른 부서 직원, 퇴사 처리된 계정, 공유가 해제된 문서 등의 사례를 포함할 수 있습니다.
평가 결과에는 사용한 모델·프롬프트·문서 버전과 시험 날짜를 남깁니다. 평균 점수와 함께 개인정보 노출, 잘못된 금전 안내처럼 따로 판단해야 할 실패를 분리하세요. 한 번의 시험에서 문제가 없었다고 앞으로의 안전이 증명되는 것은 아니므로 운영 중 점검도 정합니다.
6. 실행 기능은 별도로 설계하세요
규정을 설명하는 것과 신청서를 제출하는 것은 필요한 통제가 다릅니다. 외부 발송이나 데이터 변경을 추가한다면 실행 전 내용 확인, 사용자 권한 검사, 중복 실행 방지, 실행 결과 기록, 실패 시 복구 방법을 요구사항에 넣습니다.
외부 문서에 들어 있는 악성 지시가 모델 행동에 영향을 주는 프롬프트 인젝션도 고려해야 합니다. OWASP는 최소 권한과 고위험 작업의 사람 승인 등 여러 완화 조치를 안내합니다. 아래 설계 원칙은 이 관점을 참고한 것입니다. 문서 내용이 실행 권한을 부여하지 않도록 하고, 권한 확인은 서버와 연결 시스템에서 수행하세요. OWASP 프롬프트 인젝션 안내
더 읽기: 사내 문서 검색 AI 준비, AI 보안 정책 작성법, AI 업무 자동화 설계
공식 자료 확인일: 2026년 10월 24일.