- 상태
- 운영 중
- 쓴 기술
- TypeScript · PostgreSQL · 임베딩 모델 · 컨테이너
- 분류
- RAG · 벡터 검색 · LLM · 웹 서비스
어떤 상황이었나
문서가 부서마다 다른 형식으로 쌓여 있고, 어디에 무엇이 있는지 아는 사람에게 물어봐야만 답이 나오는 상황이었습니다. 검색어를 정확히 알아야만 찾히는 기존 검색으로는 해결되지 않았습니다.
만든 것
- 업로드·형식 변환 파이프라인
- 본문 분할과 임베딩 색인
- 근거 문서를 함께 보여주는 질의응답 화면
- 에이전트가 호출할 수 있는 검색 도구
어떻게 돌아가나
업로드형식 변환분할·임베딩색인질의근거와 함께 답변
컨테이너로 띄워 리버스 프록시 뒤에서 운영하고, 색인 재생성은 스크립트 한 번으로 끝나게 해 두었습니다.
하지 않는 것
- 임베딩과 답변 생성을 자체 서버 모델로 처리해, 문서 원문이 외부 상용 API 로 나가지 않는 구성으로 운영합니다.
- 수십만 건 규모의 전사 검색은 이 구성으로 검증하지 않았습니다.
의뢰처와 내부 구성은 공개하지 않습니다. 이 글은 일반화한 설명입니다.
비슷한 걸 만들어야 한다면
어떤 상황인지 알려주시면 비슷한 구성부터 정리해서 회신드립니다.