"사내 문서 검색 AI는 얼마인가요?" 도입 검토에서 가장 먼저 나오는 질문입니다. 하지만 문서 수만 같은 두 조직도 보안망, 동시 사용자, 권한 구조와 검수 기준이 다르면 필요한 시스템이 달라집니다. 정확한 견적은 기능 목록보다 운영 조건을 먼저 정리할 때 시작됩니다.
한 줄 가격표가 정확하지 않은 이유
RAG는 문서를 넣고 챗봇 화면을 붙이는 단일 기능이 아닙니다. 원본을 읽을 수 있는 형태로 정리하고, 질문과 관련된 근거를 찾고, 답변에 출처를 연결하고, 권한이 없는 문서를 가리고, 문서가 바뀔 때 다시 반영하는 운영 체계입니다. 같은 화면을 보여도 이 다섯 단계의 범위가 다르면 구축비와 운영비가 달라집니다.
RAG 구축 비용을 결정하는 7가지
- 문서량과 문서 난이도 — 텍스트 PDF와 스캔 이미지, 표가 많은 HWP·HWPX, 여러 파일이 서로 참조하는 규정집은 처리 방식이 다릅니다. 전체 파일 수보다 실제 페이지 구성과 최신본 판별 규칙을 함께 봐야 합니다.
- 동시 사용자와 응답 시간 — 하루 사용자 수가 같아도 동시에 질문하는 인원이 많으면 검색·생성 자원을 더 확보해야 합니다. 피크 시간의 동시 질의 수와 허용 응답 시간을 기준으로 장비와 API 용량을 정합니다.
- 클라우드·온프레미스·폐쇄망 — 외부 API를 사용할 수 있는 환경과 데이터가 내부망 밖으로 나갈 수 없는 환경은 구성 자체가 다릅니다. 폐쇄망은 모델·임베딩·업데이트·모니터링까지 내부에서 운영할 수 있어야 합니다.
- 문서 권한과 사용자 인증 — 모든 직원이 같은 문서를 보는 구조보다 부서·직급·프로젝트별 접근권한을 검색 단계에서 적용하는 구조가 복잡합니다. 기존 SSO·그룹웨어 계정과 연동할지도 범위에 포함됩니다.
- 정확성 검수 기준 — “그럴듯한 답”이 아니라 인용 근거, 답변 보류, 최신 문서 우선, 문서 관계 검색을 어떤 테스트로 합격시킬지 정해야 합니다. 대표 질문과 기대 근거를 담은 평가 세트가 있어야 검수 범위가 고정됩니다.
- 기존 시스템 연동 — 파일 서버·그룹웨어·ERP·CRM·문서관리시스템에서 자료를 자동으로 가져오거나 답변 뒤 업무 실행까지 연결하면 API·권한·오류 복구 범위가 늘어납니다.
- 업데이트와 운영 책임 — 신규 문서 반영 주기, 삭제·폐기 규칙, 실패 알림, 품질 재평가, 담당자 교육과 지원 기간을 누가 맡는지에 따라 초기 구축과 이후 운영 범위가 달라집니다.
견적 전에 먼저 답할 다섯 질문
| 확인 질문 | 왜 필요한가 | 준비할 최소 정보 |
|---|---|---|
| 어떤 문서를 검색하나? | 파서·OCR·전처리 범위 결정 | 파일 형식, 대략적 수량, 샘플 3~5개 |
| 누가 동시에 쓰나? | 서버·API 용량 결정 | 전체 사용자와 피크 동시 사용자 |
| 데이터가 외부로 나갈 수 있나? | 클라우드·온프레미스·폐쇄망 결정 | 보안 정책과 허용 네트워크 |
| 문서마다 권한이 다른가? | 인증·검색 필터 범위 결정 | 부서·직급·프로젝트 권한 예시 |
| 무엇을 맞으면 성공으로 보나? | PoC·검수 기준 결정 | 대표 질문과 반드시 찾아야 할 근거 |
클라우드형과 온프레미스형, 비용 구조가 달라지는 지점
| 구분 | 클라우드형 | 온프레미스·폐쇄망형 |
|---|---|---|
| 초기 구성 | 외부 모델·서비스 연결 중심 | 내부 장비·모델·네트워크 구성 포함 |
| 운영비 | 질의량에 따른 API·서비스 사용료 | 장비 운영·업데이트·유지관리 비용 |
| 보안 검토 | 국외 처리·외부 제공·계약 조건 확인 | 내부 권한·망분리·반입 절차 확인 |
| 확장 방식 | 사용량에 맞춰 서비스 용량 조정 | 동시 사용자와 응답 목표에 맞춰 장비 증설 |
| 적합한 경우 | 외부 처리 허용, 빠른 검증 우선 | 기밀 문서, 내부망 운영, 외부 전송 제한 |
어느 쪽이 항상 저렴하거나 우수한 것은 아닙니다. 외부 처리 허용 여부와 예상 질의량, 내부 운영 인력에 따라 총비용의 중심이 달라집니다. 그래서 초기 견적에는 선택한 방식뿐 아니라 그 선택의 전제가 함께 적혀 있어야 합니다.
PoC와 운영 구축을 같은 견적으로 보면 안 되는 이유
PoC는 제한된 문서와 대표 질문으로 검색 가능성과 검수 기준을 확인하는 단계입니다. 운영 구축은 전체 문서 수집, 실제 권한, 사용자 인증, 장애 대응과 업데이트까지 포함합니다. PoC 결과가 좋았다는 사실만으로 전사 운영 범위와 장비를 확정하면 권한·동시 사용·문서 갱신에서 다시 설계할 수 있습니다.
| 단계 | 확인할 핵심 | 완료 증거 |
|---|---|---|
| 도입 진단 | 문서·사용자·보안·업무 목적 | 범위와 제외 항목, 우선 질문 목록 |
| 개발자 지원형 PoC | 검색·인용·보류·권한 가능성 | 대표 질문 평가 결과와 개선 기록 |
| 운영 구축 | 전체 데이터·SSO·모니터링·갱신 | 합의한 검수표, 운영 절차, 담당자 인수인계 |
비용을 낮추는 네 가지 결정
- 첫 범위를 한 부서·한 문서군으로 좁힙니다. 전체 문서를 한 번에 넣기보다 성공 기준이 분명한 업무부터 검증합니다.
- 최신본과 폐기 문서를 먼저 구분합니다. 중복·구버전을 그대로 색인하면 장비보다 품질 정리에 더 많은 시간이 듭니다.
- 대표 질문과 기대 근거를 현업이 준비합니다. 검수 단계에서 “좋아 보인다”를 반복하는 비용을 줄일 수 있습니다.
- 필수 연동과 후속 연동을 나눕니다. 첫 단계에 모든 시스템을 연결하기보다 검색 가치가 확인된 뒤 업무 실행을 확장합니다.
견적서에서 반드시 확인할 여섯 줄
- 포함할 문서 형식·수량과 제외 문서가 적혀 있는가
- 동시 사용자와 목표 응답 시간 전제가 적혀 있는가
- 외부 API 사용 여부와 데이터 처리 위치가 적혀 있는가
- 권한·SSO·기존 시스템 연동 범위가 적혀 있는가
- 인용·답변 보류·최신성·권한을 어떻게 검수할지 적혀 있는가
- 문서 갱신·장애 대응·교육·지원 기간과 담당 경계가 적혀 있는가
Airo RAG는 구성부터 확인합니다
Airo RAG는 문서량과 사용 인원만으로 가격을 단정하지 않습니다. 먼저 문서 형식, 동시 사용자, 운영망, 권한과 갱신 조건을 확인하고 장비·배포 구성을 산정합니다. 현재는 실제 문서 샘플과 대표 질문으로 인용·답변 보류·권한 가능성을 검증하는 개발자 지원형 파일럿부터 운영 범위를 정합니다.
아래 구성 산정에서 문서량과 사용 규모를 선택하면 검토할 기본 구성을 바로 정리할 수 있습니다. 실제 견적은 무료 전략 미팅에서 보안·권한·연동·검수 범위를 확인한 뒤 제시합니다.