langflow 로 RAG 챗봇 만들기

로컬 환경에 Ollama 설치되었다고 가정

 

1. 설치 : https://myinbox.tistory.com/257

2. 새 프로젝트 > Vector Store RAG

3. Astra DB 를 Chroma DB로 변경 > Persist Directory에 임의값 입력

4. OpenAI를 Ollama로 변경

5. 우측 하단 API 클릭 > HTML과 연동하기

 

---

 

File 변경 사항 발생시

1. Chroma DB의 Persist Directory 넘버링 수치 1증가 (2개 개체 모두)

2. Split Text와 연결된 Chroma DB의 재생 버튼 클릭 

 

---

 

10B 이하 공개 모델 중에서는 Gemma2가 한국어 성능이 좋음

https://www.reddit.com/r/LocalLLaMA/comments/1g4n8e7/democratizing_medical_llms_for_50_languages