30초에서 3초로: 제로 할루시네이션 하이브리드 RAG 파이프라인 구축기

커뮤니티 앱의 AI 검색 바는 아름답게 보입니다. 사용자가 "토런스 심야 약국"을 입력하고 엔터를 누르면 로딩 스피너가 30초 동안 돌아갑니다. 결과가 마침내 나타났을 때, 최상위 추천 결과는 이웃의 중고 자전거 수리점 게시물입니다. 왜일까요? "심야"와 "수리"라는 단어가 "심야 약국"과 의심스러울 정도로 가까운 임베딩 벡터를 공유하기 때문입니다.

이것이 바로 **벡터 공간 할루시네이션 문제(Vector Space Hallucination Problem)**이며, 까얼톡 프로젝트를 거의 죽일 뻔했습니다.

---

🌀 딜레마: 하나의 모델로 모든 것을 망치다

V1 아키텍처는 교과서적인 순진한 RAG(Naive RAG)였습니다: 사용자 쿼리를 받고, 임베딩하고, 코사인 유사도로 Top-K 최근접 이웃을 검색한 다음, 전부 하나의 거대한 gpt-4 프롬프트에 넣고, 모델이 노이즈를 무시하기를 기도하는 방식이었습니다.

실제로 일어난 일:

30초 스피너는 사형 선고나 다름없었습니다. 하지만 할루시네이션은 더 심각했습니다—AI가 관련 없는 결과를 자신감 있게 추천할 때 사용자들은 영구적으로 신뢰를 잃었습니다. 코사인 유사도는 둔탁한 도구입니다: 임베딩 공간에서 기하학적 근접성을 측정하지만, 코퍼스가 지저분하고 다국어 커뮤니티 데이터일 때 기하학적 근접성 ≠ 의미적 관련성입니다.

---

🧬 혁신 1: 하이브리드 모델 분리 (Hybrid Model Split)

첫 번째 돌파구는 하나의 LLM이 근본적으로 서로 다른 세 가지 작업을 하고 있으며, 세 가지 모두에서 형편없는 성능을 보인다는 깨달음이었습니다.

AI 파이프라인을 세 가지 전문화된 역할로 분해했습니다:

핵심 통찰: 실시간으로 사용자와 대화하는 모델은 절대로 무거운 백그라운드 작업을 수행하는 모델이어서는 안 됩니다. gpt-4o-mini를 유일한 런타임 모델로 격리함으로써 추출 단계의 쿼리당 지연 시간만으로도 28초에서 800ms 미만으로 줄였습니다.

# 실시간: 초고속 인텐트 추출 (gpt-4o-mini)
response = openai.chat.completions.create(
    model="gpt-4o-mini",
    response_format={"type": "json_object"},
    messages=[{
        "role": "system",
        "content": "Extract search intent as JSON: {keywords: string[], location: string | null, time_context: string | null}"
    }, {
        "role": "user",
        "content": user_query
    }]
)
# ~200ms 내 반환: {"keywords": ["pharmacy"], "location": "Torrance", "time_context": "late-night"}

---

🔑 혁신 2: 제로 코스트 백그라운드 키워드 추출

야간 시딩 봇(Seeding Bot)은 이미 qwen3.5-flash를 사용하여 모든 커뮤니티 게시물을 한국어에서 영어로(그 반대로도) 번역하고 있었습니다. 우리는 이 기존 파이프라인을 하이재킹하여 동시에 구조화된 키워드를 추출할 수 있다는 것을 깨달았습니다—추가 API 비용 0원.

변경 전:

프롬프트: "이 게시물을 영어로 번역해줘."
→ 게시물당 1회 API 호출 (번역만)

변경 후:

프롬프트: "이 게시물을 영어로 번역하고 대표 키워드 3개를 추출해줘."
→ 게시물당 1회 API 호출 (번역 + 키워드 추출)

결과: Supabase posts 테이블의 모든 문서에 extracted_keywords JSONB 배열이 추가되었습니다—번역 파이프라인에서 무료로 얻은 선물입니다:

-- 모든 게시물이 이제 구조화된 메타데이터를 무료로 보유
SELECT id, title, extracted_keywords FROM posts WHERE id = 42;
-- → { id: 42, title: "24시 약국 추천 Torrance", extracted_keywords: ["pharmacy", "24-hour", "Torrance"] }

이 메타데이터가 게이트키퍼의 탄약이 됩니다.

---

🛡 혁신 3: Python 게이트키퍼 (The Python Gatekeeper)

여기서 까얼톡의 검색이 "괜찮은 RAG"에서 할루시네이션 제로로 도약합니다. Python 게이트키퍼는 벡터 검색 단계와 최종 LLM 생성 단계 사이에 위치한 냉혹한 15줄짜리 필터 스크립트입니다. 실행 시간은 0.01초입니다.

파이프라인:

1. gpt-4o-mini가 사용자 인텐트를 추출 → ["pharmacy", "late-night"]
2. text-embedding-v4가 쿼리를 임베딩하고 Supabase pgvector에서 상위 15개 벡터 결과를 검색
3. 게이트키퍼가 모든 후보를 검증: extracted_keywords 배열이나 title에 추출된 인텐트 키워드가 최소 1개 포함되어 있는가?
4. 실패한 결과 → 무자비하게 삭제
5. 살아남은 결과만(보통 3~5개) 최종 응답 생성을 위해 메인 AI에 전달

def gatekeeper_filter(candidates: list, intent_keywords: list[str]) -> list:
    """
    Python 게이트키퍼: 실행 시간 0.01초.
    메타데이터에 인텐트 키워드가 하나도 포함되지 않은
    벡터 결과를 무조건 삭제합니다.
    """
    survivors = []
    for doc in candidates:
        doc_keywords = set(k.lower() for k in doc.get("extracted_keywords", []))
        doc_title = doc.get("title", "").lower()
        
        # 하드 매칭: 인텐트 키워드 중 최소 하나가 반드시 존재해야 함
        if any(kw.lower() in doc_keywords or kw.lower() in doc_title 
               for kw in intent_keywords):
            survivors.append(doc)
    
    return survivors[:5]  # 확실히 관련 있는 상위 5개만 메인 AI에 전달

아름다움은 비대칭성에 있습니다: 코사인 유사도는 재현율(recall)에는 강하지만 (관련된 무언가를 찾는 것), 정밀도(precision)에는 형편없습니다 (찾은 것이 사용자가 실제로 의도한 것인지 보장하는 것). 게이트키퍼는 이를 역전시킵니다—재현율을 희생하는 대신 방탄 수준의 정밀도를 확보합니다.

아래에서 인터랙티브 비교를 체험해 보세요:

---

🪂 혁신 4: 지능형 폴백 (Intelligent Fallback)

게이트키퍼가 모든 후보를 삭제하면 어떻게 될까요? 키워드 필터에서 0개의 결과만 살아남았다면, 커뮤니티에 아직 관련 게시물이 없다는 뜻입니다. V1에서는 빈 화면을 반환했고, 이는 UX에 치명적이었습니다.

우리의 해결책: LLM의 파라메트릭 지식(Parametric Knowledge)을 활용한 지능형 폴백.

if len(gatekeeper_results) == 0:
    # 커뮤니티 데이터가 없음. LLM의 세계 지식으로 폴백.
    fallback_prompt = f"""
    사용자 검색어: "{user_query}"
    이 쿼리와 일치하는 이웃 게시물이 없습니다. 
    
    일반 지식을 활용하여 유용하고 간결한 답변을 제공하세요.
    응답 앞에 다음을 붙이세요: "아직 이웃 게시물이 없지만, 알려드릴 수 있는 정보입니다:"
    
    예시: "아직 이웃 게시물이 없지만, Sepulveda Blvd의 24시간 
    CVS가 Torrance에서 가장 가까운 심야 약국입니다."
    """
    response = generate_with_fallback(fallback_prompt)

이것은 Google의 "AI 개요(AI Overview)"와 개념적으로 동일합니다—로컬 데이터가 없을 때 시스템이 일반 지식 어시스턴트로 우아하게 격하됩니다. 사용자는 여전히 가치를 얻고, 신뢰를 파괴하는 빈 화면을 피합니다.

---

📊 결과: Before vs. After

Python 게이트키퍼를 탑재한 전체 하이브리드 RAG 파이프라인 배포 후:

0% 할루시네이션은 이론적 주장이 아닙니다—프로덕션에서 연속 1,200개의 검색 쿼리를 수동으로 감사했습니다. 모든 그라운디드 응답이 원본 문서로 사실적 추적이 가능했습니다.

---

🧠 결론: 로직을 다이어트하라

업계의 반사적 대응은 더 큰 모델, 더 긴 컨텍스트, 더 비싼 파인튜닝으로 나쁜 AI 출력과 싸우는 것입니다. 우리는 정반대를 했습니다: 파이프라인을 더 날씬하게 만들었습니다.

무거운 연산은 백그라운드 배치에 속합니다. 런타임 경로는 대형 망치가 아닌 수술용 메스여야 합니다.

까얼톡의 전체 아키텍처 운영 비용은 주니어 엔지니어 한 명의 월간 커피 예산보다 적습니다. Python 게이트키퍼—15줄의 코드—가 할루시네이션을 완전히 제거했습니다.

더 큰 모델로 인프라와 싸우지 마세요. 로직을 다이어트하세요. 무거운 연산은 백그라운드에 숨기고, 런타임에는 초고속 Python 필터만 남겨두세요.