RAG & Fine-Tuning

RAG(Retrieval-Augmented Generation, 검색 증강 생성):

• AI가 기억력 만으로(단순히 학습된 지식) 답을 생성하는 게 아니라 외부 데이터 를 검색해서 모델이 최신정보를 가지고 답변 생성해내는 방법

• LLM과 검색 시스템을 결합 해서 실시간으로 LLM이 필요한 정보를 검색하도록 도와주는 것

• 최신 정보 반영 가능하나 데이터에 의존성이 큼

RAG의 작동 방식

1. 검색 (Retrieval)

• AI가 자체 훈련 데이터에 의존하지 않고, 외부 데이터베이스나 검색 엔진에서 최신 정보를 가져옴

• 예를 들어, 위키 백과, 논문, 문서, API, 뉴스 기사 등을 검색해서 필요한 정보를 찾음

1. 생성 (Generation)

• 검색한 정보를 바탕으로 답변을 생성

• AI가 검색한 내용을 이해하고, 그걸 자연스럽게 풀어서 대답

---

Fine -Tuning:

• 사전 학습된 모델을 특정 작업(측정 도메인)에 맞게 추가로 학습시키는 과정

• 내 도메인에 특화된 모델을 만들 수 있으나 훈련 비용이 많이들고 시간이 오래걸림

  • 🔥특정 작업에서 최상의 성능을 발휘하도록 모델을 조정하는 과정

    • 사전 학습 덕분에, 파인 튜닝은 더 빠르고 적은 데이터로 이루어질 수 있다

      • NLP 모델은 파인 튜닝 과정을 거쳐 실제 애플리케이션에서 사용