GitHub 트렌딩을 그대로 나열하지 않고, Claude Code · RAG · 로컬 AI · 에이전트 워크플로우 · 평가 도구 · AI 앱 빌더 관점에서 실제 빌더가 쓸 만한 오픈소스 스택을 다시 정리합니다.
모드 필터는 Lattice가 상위 후보군에서 선별한 큐레이션 뷰입니다.
C/C++로 LLM 추론을 효율적으로 수행하는 라이브러리입니다. GGML을 사용하여 CPU에서도 LLM을 구동할 수 있습니다.
LLM inference in C/C++
리얼타임 분석 데이터베이스 관리 시스템
ClickHouse® is a real-time analytics database management system
Whisper를 C++로 다시 만들어서 일반 PC에서도 빠르게 동작. 모바일/엣지에 적합.
Port of OpenAI's Whisper model in C/C++.
게임 스트리밍 호스트입니다.
Self-hosted game stream host for Moonlight.
Llama 같은 모델을 일반 PC에서 돌리는 C++ 구현. Ollama 등 많은 도구가 이걸 기반으로.
LLM inference in C/C++ — runs Llama and friends on consumer hardware.
OpenAI의 Whisper 모델을 C/C++로 구현한 스피치 인식 모델입니다.
Port of OpenAI's Whisper model in C/C++