ragas1 LLM 환각 측정 (분류체계, 정량지표, 평가파이프라인, 모니터링) 프롬프트를 잘 다듬으면 LLM 환각이 줄어든다고 생각하시는 분들 많으시죠? 저도 처음엔 그렇게 믿었습니다. 그런데 실제로 금융 도메인 RAG 시스템을 운영해보니, 프롬프트 수정은 그냥 증상 완화에 불과했습니다. 환각(Hallucination)이 언제, 얼마나, 왜 발생하는지를 숫자로 파악하지 못하면 결국 같은 실수가 반복됩니다. 이 글은 환각을 측정 가능한 엔지니어링 문제로 바꾸는 방법을 다룹니다.환각 분류체계 — 유형을 모르면 측정도 못 합니다일반적으로 LLM 환각을 그냥 "틀린 답변"으로 뭉뚱그려 보는 시각도 있는데, 실제로 써보니 오류의 성격이 완전히 달라서 같은 잣대로 재면 곤란합니다. 유형을 구분해야 비로소 어떤 지표를 적용할지 결정할 수 있습니다.크게 두 갈래로 나뉩니다. 첫 번째는 사실적 환.. 2026. 8. 19. 이전 1 다음