OpenAI 임베딩을 활용한 RAG 기반 LLM 시스템 만들기 (1)
·
Spring Boot/LLM
이 게시물은 PGVector 설치를 마치고 RAG에 관한 내용입니다.https://kimfishes.tistory.com/18 PGvector Window 설치 방법https://kimfishes.tistory.com/17 LLM (Ollama) RAG 구현 전 pgvector VS Qdrant 중 무엇이 좋을까https://kimfishes.tistory.com/3 SpringAI 사용해서 LLM (Ollama) 연결 + Resilience4j 도입 (Spring Boot)고객센터에 사용자가 문의 게시kimfishes.tistory.com 구현하려는 상황저는 현재 날씨, 수온, 풍속, 물때, 파도와 같은 환경 요소와 사용자 위치, 어종별 특성을 기반으로 물고기가 잡힐 확률을 예측하는 서비스를 제작하..
RAG 구현 전 Vector DB 선택 (PGVector VS Qdrant 중 무엇이 좋을까?)
·
Spring Boot/LLM
https://kimfishes.tistory.com/3 SpringAI 사용해서 LLM (Ollama) 연결 + Resilience4j 도입 (Spring Boot)고객센터에 사용자가 문의 게시물을 작성하면 관리자에게 디스코드로 알림이 가고, 관리자가 답변을 달아주기 전 AI가 먼저 문의글에 맞게 답변을 달아주는 기능을 구현하려고 한다.디스코드(Dikimfishes.tistory.com 기존 Ollama로 LLM을 사용하던 상황에서도 기본적인 대화는 가능하다.하지만 예를 들어:“고객센터 몇 시에 종료되나요?”“환불은 언제까지 가능하죠?”“구독 해지는 바로 되나요?”이 질문들은 정확한 정책/운영 정보를 요구한다.LLM은:일반적인 지식은 잘 답하지만우리 회사의 최신 정책은 모른다잘못된 정보를 그럴듯하..