TECHNICAL APPENDIX / RAG ARCHITECTURE

RAG 아키텍처
상세 설계 부록

하이브리드 검색·Zero Trust 권한·관측성·평가를 기준으로 정리한 한국문화관광연구원 연구지식 AI 챗봇의 기술 아키텍처입니다.

기반: RFP 분석·기술 매뉴얼·온라인 공식·기술 1차 자료
기준일 2026.09.25
A1
RAG Pipeline
한국문화관광연구원 AI 챗봇 RAGA1 › Ingestion · Retrieval · Augmentation · Generation
A1. RAG PIPELINE
검색과 생성은 분리하고, 단계별 실패를 관측한다
온라인 참조 아키텍처의 공통 원칙에 따라 RAG를 네 단계로 분리합니다. 검색 품질 문제와 생성 품질 문제를 구분해야 모델을 바꾸지 않고도 청킹·검색·정책을 독립적으로 개선할 수 있습니다.
01 Ingestion원문 수집
파싱·OCR
정제·청킹·임베딩·색인
→
02 Retrieval질의 분석
키워드+벡터
필터·재랭킹
→
03 Augmentation허용 청크
출처·버전
응답정책 조립
→
04 Generation근거 답변
인용 조립
안전한 실패
운영 규칙: 근거 부족·권한 오류·민감 질문은 생성 단계의 오류가 아니라 명시적 이관 상태로 처리합니다.
온라인 아키텍처 분석 적용A1 - 1
A2
Hybrid Retrieval
한국문화관광연구원 AI 챗봇 RAGA2 › 검색·재랭킹·문서 보안 트리밍
A2. HYBRID RETRIEVAL
고유명사는 키워드로, 개념 질문은 벡터로 보완한다
Microsoft·OpenSearch·Pinecone 참조 원칙을 적용해 lexical 검색과 dense vector 검색을 병렬 실행하고, 결과 통합·중복 제거·semantic reranking 후 정책 필터를 통과시킵니다.

QUERY UNDERSTANDING

질의 의도
엔티티·약어
대화 맥락
문서유형·연도 필터

RETRIEVAL & RANKING

Lexical / keyword search
Dense vector search
결과 통합·중복 제거
Semantic reranking
Minimum score·top-k

GROUNDING CONTEXT

허용 청크
문서·페이지·버전
인용 위치
권한 없는 결과 제거
메타데이터 필터적용 이유검증 증거
access_level공개·내부·제한 문서 분리비인가 검색·생성·다운로드 차단
department부서 소유·업무 범위 적용역할·부서별 검색 회귀
published_at / effective_to최신·유효 문서 우선개정·폐기 문서 동시 검색 테스트
한국문화관광연구원 적용: 연구보고서명·과제번호·기관명은 lexical 가중치를 높이고, “지역소멸 대응 사례” 같은 개념 질문은 vector 검색으로 보완합니다.
하이브리드 검색·보안 트리밍A2 - 1
A3
Zero Trust & Observability
한국문화관광연구원 AI 챗봇 RAGA3 › 권한·관측성·LLMOps
A3. ZERO TRUST & OBSERVABILITY
내부망도 신뢰하지 않고 모든 단계를 추적한다
NIST SP 800-207의 Zero Trust 원칙은 네트워크 위치가 아니라 사용자·자산·리소스 단위의 인증·인가를 요구합니다. OpenTelemetry와 MLflow 참조 구조는 검색·프롬프트·모델 응답을 하나의 trace로 연결합니다.

ZERO TRUST CHECKPOINTS

API: 세션·토큰·MFA·rate limit
검색 전: 역할·부서·등급
결과: 문서 ACL·청크 ACL
생성 전: 허용 근거만
원문 이동: 별도 재인가

TRACE LINEAGE

request_id
query_analysis
retrieval → policy_filter
rerank → augmentation
generation → citation → feedback

VERSION REGISTRY

embedding_model_version
index_version
reranker_version
prompt_version
model_version
관측 신호필수 필드운영 용도
Tracesrequest_id·stage latency·retrieval path지연·실패 구간 분석
Metricsp50/p95·token·error·retrySLA·비용·용량 관리
Logsgrounding·citation·handoff·safety감사·품질·사고 대응
개인정보 원칙: 원문·비밀값·전체 프롬프트는 기본 로그에 남기지 않고 마스킹·해시·식별자화합니다.
Zero Trust·OpenTelemetry·LLMOpsA3 - 1
A4
Architecture Decision
한국문화관광연구원 AI 챗봇 RAGA4 › 1차 PoC 기술 선택
A4. ARCHITECTURE DECISION
1차 PoC는 Classic RAG로 시작하고 확장 조건을 측정한다
관리형·자체 검색 스택, Classic·Agentic Retrieval의 선택은 제품 선호가 아니라 망분리·권한·지연·운영 복잡도·평가 결과로 결정합니다.
선택지적합 상황장점주의점
Classic RAG단일 기관·단일 지식영역·GA 우선구성·지연·검증 단순복합 질문 확장성 제한
Agentic retrieval복합 질문·다중 소스·질의 분해병렬 하위질의·구조화 인용비용·에이전트 검증 부담
관리형 검색신속한 PoC·운영 인력 제한인덱싱·랭킹 편의망분리·반출·벤더 종속
자체 검색 스택내부망·세밀한 권한·통제 우선데이터·정책·버전 통제구축·운영 전문성 필요
PoC 01대표 질문 100건+
검색 방식 비교
→
PoC 02근거성·권한 누출
안전한 실패
→
PoC 03Trace·평가·재색인
운영성 검증
1차 권장: Classic RAG + 하이브리드 검색 + 문서 단위 보안 트리밍 + OpenTelemetry 관측성. 복합 질문·다중 소스 요구가 확인될 때 Agentic retrieval을 확장합니다.
기술 결정·PoC 기준A4 - 1