2026.01 — 현재 · 운영 중
AI 순장
RAG 기반 신앙·사역 챗봇
개요
사용자가 신앙, 공동체, 캠퍼스 사역과 관련된 질문을 AI와 자연스럽게 대화할 수 있도록 개발한 RAG 기반 AI 챗봇 서비스입니다. 단순 생성형 AI가 아니라 Knowledge Base 기반 RAG 시스템을 구축하여 성경, 순장 교육자료, 공동체 운영 문서 등을 검색한 뒤 근거 기반으로 답변하도록 설계했습니다. 인증 기반 대화 히스토리와 모바일 UX를 구현하여 실제 공동체에서 지속적으로 활용할 수 있는 AI 서비스로 만들었습니다.
문제와 개선
AI 답변 신뢰성 개선 (RAG)
AS-IS
일반 생성형 AI는 공동체 교육 자료와 운영 문서를 알지 못해 근거 없는 답변(Hallucination)이 발생하거나, 공동체의 방향성과 다른 답변을 제공하는 문제가 있었습니다.
TO-BE
성경, 순장 교육자료, 운영 문서를 Knowledge Base로 구축하고 RAG 파이프라인을 설계했습니다. 관련 문서를 먼저 검색한 뒤 해당 문맥으로 답변을 생성하도록 구현하고, 문서에 없는 내용은 생성하지 않도록 프롬프트를 다듬어 Hallucination을 줄였습니다.
인증 기반 대화 기록 관리
AS-IS
클라이언트에서 AI API를 직접 호출하는 구조에서는 인증 정보 노출 위험이 있었고, 로그인 여부와 관계없이 대화 기록 접근을 제어하기 어려웠습니다.
TO-BE
Next.js Route Handler를 활용한 API Proxy 구조를 설계하여 서버에서 인증을 검증한 뒤 AI API를 호출하도록 개선했습니다. 인증된 사용자만 자신의 대화 기록에 접근할 수 있도록 보안과 프라이버시를 강화했습니다.
세션 전환 시 데이터 오염
AS-IS
게스트 모드에서 로그인하거나 다른 계정으로 전환할 경우 기존 Conversation ID가 남아 이전 사용자의 대화가 이어지는 문제가 발생했습니다.
TO-BE
Zustand Store의 Hydrate 시점에 세션을 검증하고 Conversation ID를 초기화하도록 개선했습니다. 세션마다 독립적인 Conversation을 유지해 대화 데이터의 독립성을 보장했습니다.
AI 채팅 UX 개선
AS-IS
대화 목록이 많아질수록 로딩 속도가 저하되었고, 모바일에서는 가상 키보드 활성화 시 입력창이 가려지거나 레이아웃이 흔들렸습니다.
TO-BE
TanStack Query 기반 무한 스크롤로 대화 목록을 효율적으로 관리하고, 모바일 Viewport 변화에 대응하는 레이아웃을 적용하여 안정적인 채팅 경험을 제공했습니다.
화면
회고
AI 모델 자체보다 데이터 품질과 검색 구조가 서비스의 신뢰성을 결정한다는 점을 깊이 체감했습니다. 단순히 LLM을 연동하는 것만으로는 원하는 답변을 주기 어려웠기 때문에, 자료를 직접 정리하고 Knowledge Base와 RAG를 설계했습니다. 앞으로는 Reranking, Hybrid Search, 장기 메모리 등을 적용해 더 정확한 AI Assistant로 발전시킬 계획입니다.