GitHub 트렌딩을 그대로 나열하지 않고, Claude Code · RAG · 로컬 AI · 에이전트 워크플로우 · 평가 도구 · AI 앱 빌더 관점에서 실제 빌더가 쓸 만한 오픈소스 스택을 다시 정리합니다.
로컬에서 LLM을 한 줄로 띄우고 OpenAI 호환 API로 쓰게 해줍니다. 프라이버시·비용 둘 다 챙기고 싶을 때 첫 번째 선택.
Get up and running with large language models locally — Llama, Gemma, Mistral, and more.
대규모 벡터 검색 전용 DB. 대용량(10억+ 벡터)에서 가장 검증된 OSS 선택.
Milvus is a high-performance, cloud-native vector database built for scalable vector ANN search
PDF·표·차트까지 깊게 파싱하는 RAG 엔진. 복잡 문서가 많은 기업 KMS용.
RAGFlow is a leading open-source Retrieval-Augmented Generation (RAG) engine that fuses cutting-edge RAG with Agent capabilities to create a superior context layer for LLMs
LLM 앱에 장기 메모리를 주는 서버. 사용자 사실·대화 맥락을 자동으로 관리.
Long-term memory store for LLM applications — facts and message history.