1. 사실성과 신뢰성 문제

가장 대표적인 문제는 환각입니다. 환각(hallucination)은 모델이 그럴듯해 보이지만 실제로는 틀린 정보나 존재하지 않는 내용을 만들어내는 현상을 말합니다. 환각이 발생하는 이유는 LLM이 학습된 패턴을 바탕으로 다음 단어를 예측하는 구조이기 때문입니다. 즉, 답변이 자연스러운지는 판단할 수 있지만, 그것이 사실인지 여부까지 판단하지는 못합니다.

또 하나의 한계는 지식 단절입니다. 지식 단절(knowledge cut-off)이란 모델이 학습을 마친 이후의 정보는 알지 못하는 특성을 말합니다. 따라서 최신 정보나 특정 도메인의 내부 지식에 대해서는 정확한 답변을 제공하기 어렵습니다.

이러한 문제를 해결하기 위해 등장한 대표적인 구조가 RAG(검색 증강 생성)입니다. 이는 외부 데이터를 함께 활용해 최신 정보와 사실성을 보완하는 방식입니다.