GitHub 트렌딩을 그대로 나열하지 않고, Claude Code · RAG · 로컬 AI · 에이전트 워크플로우 · 평가 도구 · AI 앱 빌더 관점에서 실제 빌더가 쓸 만한 오픈소스 스택을 다시 정리합니다.
모드 필터는 Lattice가 상위 후보군에서 선별한 큐레이션 뷰입니다.
로컬 Ollama에 ChatGPT 같은 UI를 붙이는 인기 프로젝트. RAG·툴·아바타까지 풀 패키지.
User-friendly WebUI for LLMs, formerly known as Ollama WebUI.
AI 모델 개발을 위한 자가 호스팅 워크스페이스를 제공한다. 로컬 GPU 자원을 활용해 훈련 및 추론을 프라이빗하게 처리할 때 첫 번째 고려 대상이 된다.
Self-hosted AI workspace.
OSS LLM 추론 엔진의 사실상 표준. PagedAttention 기반으로 처리량이 매우 높아요.
A high-throughput and memory-efficient inference and serving engine for LLMs.
로컬에서 LLM을 한 줄로 띄우고 OpenAI 호환 API로 쓰게 해줍니다. 프라이버시·비용 둘 다 챙기고 싶을 때 첫 번째 선택.
Get up and running with large language models locally — Llama, Gemma, Mistral, and more.
Llama 같은 모델을 일반 PC에서 돌리는 C++ 구현. Ollama 등 많은 도구가 이걸 기반으로.
LLM inference in C/C++ — runs Llama and friends on consumer hardware.
여러 LLM 프로바이더를 한 UI에서 쓰게 해주는 오픈소스 챗 앱. 셀프호스팅·플러그인·아티팩트까지 가벼운데 풍부.
An open-source, modern-design AI chat framework. Supports Multi AI Providers (OpenAI / Claude / Gemini / Bedrock / Ollama / DeepSeek).
사내 호스팅 가능한 GitHub Copilot 대체재. 코드가 외부로 안 나가야 하는 환경 필수.
Self-hosted AI coding assistant — open-source GitHub Copilot alternative.
Whisper를 C++로 다시 만들어서 일반 PC에서도 빠르게 동작. 모바일/엣지에 적합.
Port of OpenAI's Whisper model in C/C++.
Bitwarden 패스워드 매니저 호환 서버를 자체호스팅. 가족·소규모 팀에 추천.
Unofficial Bitwarden compatible server written in Rust.
인기 영상 편집 앱 CapCut의 오픈소스 대체재이다. Rust 기반으로 자동 자막, 오디오 처리 등 콘텐츠 제작에 유용한 기능을 제공한다. 높은 성능이 장점이다.
Beta: The truly free, and open-source cross-platform CapCut replacement (supports MCPs).
다양한 AI 벤더가 남긴 워터마크와 C2PA 메타데이터를 제거하는 파이썬 도구이다. PNG, PDF, DOCX 등 여러 파일 형식에서 AI 생성 흔적을 깨끗하게 지운다.
A privacy-first app that strips AI watermarks from content you own.
2.78조 파라미터 Kimi K3 모델을 단일 CPU와 8.24GB RAM으로 추론한다. BLAS, 프레임워크, GPU 없이 C99로만 구현되어 압도적인 휴대성과 경량 추론 환경을 제공한다.
A 2.78-trillion-parameter Kimi K3 running inference on a single CPU in 8.24 GB of RAM. Portable C99: no BLAS, no framework, no GPU.
오픈 소스 Grok Bot 대체 솔루션으로, 사용자가 원하는 AI 모델과 샌드박스를 선택할 수 있다. 자체적인 AI 에이전트 환경을 구축하고 싶을 때 적합하다.
Open-source Grok Bot alternative. Choose your own model and sandbox.
기업이 외부에 데이터 안 내보내고 RAG·챗 운영할 때 쓰는 H2O.ai의 풀 솔루션.
Private chat with local GPT — fully self-hosted, RAG-ready.
완전 오프라인 RAG의 선구자. 보안이 중요한 환경에서 첫 후보로 검토.
Interact with your documents using the power of GPT, 100% privately, no data leaks.
터미널에서 Ollama 모델 chat. 노트북에서 빠르게 LLM 실험할 때 유용.
A text-based terminal client for Ollama.
자가 호스팅, 무유지보수 방식의 A주 주식 선택, 모니터링, 백테스팅 양적 워크벤치다. LLM으로 전략 맞춤화, 종목 분석, 복기가 가능하며, TickFlow 및 외부 데이터 소스를 자유롭게 활용한다.
TSP自托管、零运维的 A 股「选股 + 监控 + 回测」量化工作台 | 基于 TickFlow 数据源 | LLM能力驱使策略定制+个股分析+复盘 | 自由接入第三方数据源与个性化扩展数据 | 个人开源 ,非TickFlow官方项目
JVM 기반 LLM 애플리케이션 개발을 위한 자바 라이브러리다. 다양한 LLM과 벡터 스토어에 대한 통합 API를 제공하며, RAG 및 에이전트 구현을 간소화한다.
LangChain4j is an idiomatic, open-source Java library for building LLM-powered applications on the JVM. It offers a unified API over popular LLM providers and vector stores, and makes implementing tool calling (including MCP support), agents and RAG easy. It integrates seamlessly with enterprise Java frameworks like Quarkus and Spring Boot.
다양한 검색 서비스와 데이터베이스의 결과를 통합하여 제공하는 무료 인터넷 메타 검색 엔진이다. 사용자를 추적하거나 프로파일링하지 않아 개인 정보 보호에 강점이 있다.
SearXNG is a free internet metasearch engine which aggregates results from various search services and databases. Users are neither tracked nor profiled.
LLM을 활용하여 스스로 산업 트렌드를 찾고 데일리 리포트를 작성하는 웹사이트 프레임워크이다. 원하는 정보 소스와 기준만 바꾸면 맞춤형 뉴스 허브를 구축할 수 있다.
一个自己找热点、自己写日报的网站框架。把信源和精选标准换成你的，它就是你的行业热点站。
Microsoft에서 제공하는 로컬 AI 추론 SDK로, GPU 가속을 활용하여 온디바이스에서 AI 모델을 실행한다. 개발자들이 로컬 환경에서 LLM을 활용한 앱을 구축할 때 적합하다.
홈 자동화를 위한 오픈 소스 프로젝트. 사용자의 프라이버시를 우선시한다.
:house_with_garden: Open source home automation that puts local control and privacy first.
웹 UI로 오픈 모델을 훈련하고 실행할 수 있는 도구입니다.
Local UI to run and train LLMs and diffusion models. Supports GGUF, MLX, Qwen3.8, DeepSeek-V4, MiniMax-H3, Gemma 4, FLUX and more.
양방향 링크 기반 노트 도구. Roam Research·Obsidian과 함께 PKM의 한 축.
A privacy-first, open-source platform for knowledge management and collaboration. Download link: http://github.com/logseq/logseq/releases. roadmap: https://logseq.io/p/NX4mc_ggEV
OpenAI 형식 한 줄로 100+개 모델 호출. 모델 갈아끼우는 비용 거의 0.
The fastest, litest AI Gateway. Rust core with Python SDK. Call 100+ LLM APIs in OpenAI (or native) format with cost tracking, guardrails, load balancing, and logging [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
OpenAI Codex와 Claude Code API를 하나의 게이트웨이로 통합한다. 이를 통해 Claude, Gemini 등 다양한 LLM을 기존 Codex CLI, App, SDK와 함께 활용할 수 있다.
Universal provider proxy for OpenAI Codex & Claude Code — use any LLM (Claude, Gemini, Grok, DeepSeek, Ollama…) with Codex CLI, App, SDK, and Claude Code
개인정보 보호를 우선하는 분석 플랫폼으로, Google Analytics와 같은 분석 도구의 대안입니다.
Umami is a privacy-first analytics platform. Traffic, campaigns, behavior, conversions, and revenue in one place — no cookies, no surveillance, self-hosted or in the cloud.
내 노트·이메일·문서를 자연어로 검색하는 개인 AI. Obsidian·이메일 통합이 강점.
Your AI second brain. Self-hostable. Get answers from the web or your docs. Build custom agents, schedule automations, do deep research. Turn any online or local LLM into your personal, autonomous AI (gpt, claude, gemini, llama, qwen, mistral). Get started - free.
OCR 소프트웨어로 PDF, 이미지, 화면 캡처를 지원합니다.
OCR software, free and offline. 开源、免费的离线OCR软件。支持截屏/批量导入图片，PDF文档识别，排除水印/页眉页脚，扫描/生成二维码。内置多国语言库。
Tailscale 컨트롤 서버의 오픈소스 구현. WireGuard 기반, 셀프호스팅 네트워크 구성 가능.
An open source, self-hosted implementation of the Tailscale control server
Vercel, Netlify, Heroku와 같은 배포 플랫폼 대안.
Open Source Alternative to Vercel, Netlify and Heroku.
LLM 앱의 trace·prompt·eval을 한 곳에서. 프로덕션 LLM 디버깅 필수 도구.
🪢 Open source agent evals & observability: Trace, evaluate, and improve LLM applications with one open platform.
PDF 문서를 번역하는 데 사용할 수 있는 도구로, Google, DeepL, Ollama, OpenAI와 같은 서비스를 지원합니다.
[EMNLP 2025 Demo] PDF scientific paper translation with preserved formats - 基于 AI 完整保留排版的 PDF 文档全文双语翻译，支持 Google/DeepL/Ollama/OpenAI 等服务，提供 CLI/GUI/MCP/Docker/Zotero
uptime-kuma는 자체 호스팅된 모니터링 툴입니다. Docker를 지원하여 다양한 환경에서 사용할 수 있습니다.
A fancy self-hosted monitoring tool
1,000개 이상의 SaaS 제공업체를 AI 에이전트에 연결하는 오픈소스 인증 게이트웨이이다. SDK, CLI, MCP, HTTP, OpenAPI를 통해 연동되며, AI 에이전트의 외부 서비스 접근을 크게 단순화한다.
Open-source auth gateway connecting 1000+ SaaS providers to AI agents through SDK, CLI, MCP, HTTP, and OpenAPI.
AI 에이전트를 활용하여 코드 내 보안 취약점을 발견하고 검증하는 오픈소스 도구다. 자체 호스팅이 가능하여 민감한 코드 분석에 적합하며, AI 기반의 자동화된 버그 바운티 리서치에 활용된다.
Open-source, self-hosted AI vulnerability research tool that orchestrates agents to find and validate security issues in code.
개인용 AI 어시스턴트 구축을 돕는 솔루션이다. 온프레미스나 클라우드에 쉽게 배포하며, 다양한 채팅 앱을 지원하고 기능 확장이 용이하다.
Your Personal AI Assistant; easy to install, deploy on your own machine or on the cloud; supports multiple chat apps with easily extensible capabilities.
기업 내 도구, 대시보드, 비즈니스 애플리케이션, 워크플로우 및 AI 에이전트를 위한 오픈 소스 플랫폼.
Open-source foundation of ToolJet AI - the enterprise app generation platform for internal tools, dashboards, business applications, workflows and AI agents. Build visually, from a prompt, or from Claude Code, Codex and Cursor over MCP 🚀
사용자의 개인 정보를 최우선으로 생각하는 이력서 빌더다. 완전히 안전하며, 커스터마이징 가능하고, 오픈 소스로 영원히 무료로 제공된다.
A one-of-a-kind resume builder that keeps your privacy in mind. Completely secure, customizable, portable, open-source and free forever. Try it out today!
기업용 LLM 에이전트의 '월드 모델' 역할을 하는 오픈소스 시스템이다. 에이전트 기억과 지식 그래프를 이중 시간(bitemporal) 속성으로 관리하며, 복잡한 AI 시스템 구축에 핵심적인 기반을 제공한다.
World's first open-source enterprise world model.
리액티브 리소스를 제공합니다.
A one-of-a-kind resume builder that keeps your privacy in mind. Completely secure, customizable, portable, open-source and free forever. Try it out today!
관리자 패널, 내부 도구 및 대시보드를 위한 플랫폼.
Platform to build admin panels, internal tools, and dashboards. Integrates with 25+ databases and any API.
로컬에서 AI 코딩 어시스턴트를 사용할 수 있는 도구입니다.
Self-hosted AI coding assistant
AFFiNE 지식베이스로 사용됩니다.
There can be more than Notion and Miro. AFFiNE(pronounced [ə‘fain]) is a next-gen knowledge base that brings planning, sorting and creating all together. Privacy first, open-source, customizable and ready to use.
PDF를 편집할 수 있는 도구입니다. Docker에서 작동합니다.
#1 PDF Application on GitHub that lets you edit PDFs on any device anywhere
PowerShell 기반 윈도우10/11 디블로트 스크립트. 기본 설치 앱 제거 및 트래픽 감소에 효과적.
A simple, lightweight PowerShell script that allows you to remove pre-installed apps, disable telemetry, as well as perform various other changes to declutter and customize your Windows experience. Win11Debloat works for both Windows 10 and Windows 11.
데스크탑 + Docker로 한 번에 띄우는 RAG·에이전트·다중 LLM 챗 앱. 비개발자가 시도하기 쉬움.
Stop renting your intelligence. Own it with AnythingLLM. Everything you need for a powerful local-first agent experience
GenAI 앱에 RAG를 통합하는 데 최적화된 프레임워크. 개발자는 RAG 구현 대신 제품 기능에 집중할 수 있다. GPT4, Llama 등 모든 LLM과 PGVector, Faiss 등 다양한 벡터 스토어를 지원한다.
Opiniated RAG for integrating GenAI in your apps 🧠 Focus on your product rather than the RAG. Easy integration in existing products with customisation! Any LLM: GPT4, Groq, Llama. Any Vectorstore: PGVector, Faiss. Any Files. Anyway you want.