오늘의 AI Builder Stack을 고르세요.

Microsoft에서 제공하는 로컬 AI 추론 SDK로, GPU 가속을 활용하여 온디바이스에서 AI 모델을 실행한다. 개발자들이 로컬 환경에서 LLM을 활용한 앱을 구축할 때 적합하다.

데이터 시스템 사이의 zero-copy 데이터 교환 표준. 모든 빠른 dataframe의 베이스.

Apache Arrow is a multi-language toolbox for accelerated data interchange.

C++에 대한 그래픽 사용자 인터페이스 라이브러리.

Dear ImGui: Bloat-free Graphical User interface for C++ with minimal dependencies

Google이 개발한 테스트 프레임워크.

GoogleTest - Google Testing and Mocking Framework

실시간 미디어에 대한 ML 솔루션입니다.

Cross-platform, customizable ML solutions for live and streaming media.

빠른 open 프레임워크. 딥 러닝, 머신 러닝, 컴퓨터 비전.

Caffe: a fast open framework for deep learning.

Whisper를 C++로 다시 만들어서 일반 PC에서도 빠르게 동작. 모바일/엣지에 적합.

Port of OpenAI's Whisper model in C/C++.

Microsoft의 Foundry 로컬 AI SDK로, GPU 가속 기능을 활용하여 로컬 AI 및 채팅 완성 기능을 제공합니다. 개발자가 AI 애플리케이션을 효율적으로 구축하도록 돕습니다.

1비트 LLM에 대한 인퍼런스 프레임워크.

Official inference framework for 1-bit LLMs

React 기반으로 iOS, Android 네이티브 앱을 만들 수 있는 크로스 플랫폼 프레임워크이다. 하나의 코드베이스로 모바일 앱을 빠르게 개발할 때 이상적이다.

A framework for building native applications using React

Llama 같은 모델을 일반 PC에서 돌리는 C++ 구현. Ollama 등 많은 도구가 이걸 기반으로.

LLM inference in C/C++ — runs Llama and friends on consumer hardware.

구글의 ML 프레임워크. 프로덕션 deployment·TFLite·TFJS 같은 endpoint가 강점.

An Open Source Machine Learning Framework for Everyone

React를 사용하여 네이티브 모바일 앱을 구축하기 위한 프레임워크입니다. iOS와 Android를 모두 지원하는 크로스 플랫폼 개발을 가능하게 합니다.

A framework for building native applications using React