GitHub 트렌딩을 그대로 나열하지 않고, Claude Code · RAG · 로컬 AI · 에이전트 워크플로우 · 평가 도구 · AI 앱 빌더 관점에서 실제 빌더가 쓸 만한 오픈소스 스택을 다시 정리합니다.
모드 필터는 Lattice가 상위 후보군에서 선별한 큐레이션 뷰입니다.
OpenAI 형식 한 줄로 100+개 모델 호출. 모델 갈아끼우는 비용 거의 0.
The fastest, litest AI Gateway. Rust core with Python SDK. Call 100+ LLM APIs in OpenAI (or native) format with cost tracking, guardrails, load balancing, and logging [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
GenAI 앱에 RAG를 통합하는 데 최적화된 프레임워크. 개발자는 RAG 구현 대신 제품 기능에 집중할 수 있다. GPT4, Llama 등 모든 LLM과 PGVector, Faiss 등 다양한 벡터 스토어를 지원한다.
Opiniated RAG for integrating GenAI in your apps 🧠 Focus on your product rather than the RAG. Easy integration in existing products with customisation! Any LLM: GPT4, Groq, Llama. Any Vectorstore: PGVector, Faiss. Any Files. Anyway you want.
Retrieval-Augmented Generation (RAG)을 위한 모듈형 파이썬 프레임워크이다. 다양한 LLM, 임베딩, 벡터 스토어를 유연하게 연결하며, MCP 통합으로 외부 도구 및 데이터 소스 연동을 지원한다.
RAGLight is a modular framework for Retrieval-Augmented Generation (RAG). It makes it easy to plug in different LLMs, embeddings, and vector stores, and now includes seamless MCP integration to connect external tools and data sources.
GenAI를 앱에 통합하는 데 도움이 되는 도구. 다양한 LLM 및 Vectorstore 지원.
Opiniated RAG for integrating GenAI in your apps 🧠 Focus on your product rather than the RAG. Easy integration in existing products with customisation! Any LLM: GPT4, Groq, Llama. Any Vectorstore: PGVector, Faiss. Any Files. Anyway you want.
OSS LLM 추론 엔진의 사실상 표준. PagedAttention 기반으로 처리량이 매우 높아요.
A high-throughput and memory-efficient inference and serving engine for LLMs