GitHub 트렌딩을 그대로 나열하지 않고, Claude Code · RAG · 로컬 AI · 에이전트 워크플로우 · 평가 도구 · AI 앱 빌더 관점에서 실제 빌더가 쓸 만한 오픈소스 스택을 다시 정리합니다.
모드 필터는 Lattice가 상위 후보군에서 선별한 큐레이션 뷰입니다.
2.78조 파라미터 Kimi K3 모델을 단일 CPU와 8.24GB RAM으로 추론한다. BLAS, 프레임워크, GPU 없이 C99로만 구현되어 압도적인 휴대성과 경량 추론 환경을 제공한다.
A 2.78-trillion-parameter Kimi K3 running inference on a single CPU in 8.24 GB of RAM. Portable C99: no BLAS, no framework, no GPU.
Metal GPU에서 LLM을 빠르게 로컬 추론하는 C 엔진입니다. Apple Silicon 기기에서 고성능 AI를 실행할 수 있도록 설계되었습니다.
DeepSeek 4 Flash and PRO local inference engine for Metal, CUDA and ROCm