반응형
Advanced RAG Techniques - Query expansion, Cross-encoder and Dense Passage Retrieval(DPR)
CS 지식/AI 관련2024. 12. 29. 20:31Advanced RAG Techniques - Query expansion, Cross-encoder and Dense Passage Retrieval(DPR)

Naive RAG1. Indexing문서로 부터 데이터를 추출합니다.PDF,HTML, Word 같은 다양한 파일을 plain text로 변환합니다.LLM 모델은 한번에 처리가능한 텍스트의 최대 길이가 제한되어있습니다.그래서 데이터를 청크 단위로 분리해서 효율적으로 관리합니다. (Chunking)2. Retrieval사용자 Query를 vector화 시키고 관련 데이터를 가지고 있는 Vector DB에 존재하는 vector와 비교했습니다.3. Generation쿼리와 데이터를 prompt에 입력하여 합치는 과정입니다.vector db에 저장된 데이터와 LLM의 응답을 합쳐 답변을 생성합니다. 기존 Naive RAG의 문제점1. Contextual 이해에 한계가 있습니다.키워드 일치성이나 기본 Semanti..

반응형
image