ggml là thư viện tensor cho machine learning, giúp chạy các phép tính nền tảng cho mô hình học máy và LLM. Repo này hợp với người đã biết C++ và muốn tìm hiểu cách chạy hoặc xây dựng mô hình ngay trên máy, nhưng có thể cần máy đủ mạnh tùy model.
Thư viện tensor bằng C++ làm nền cho các ứng dụng machine learning và LLM. Phù hợp để học sâu về cách mô hình thực hiện tính toán.
Người có kinh nghiệm — cần hiểu sâu về kiến trúc và tự cấu hình theo nhu cầu.
git clone https://github.com/ggml-org/ggml.git
| Repo | Sao | Ngôn ngữ | Giấy phép |
|---|---|---|---|
| ggml-org/ggml (repo này) | ★ 16k | C++ | MIT |
| ggml-org/llama.cpp | ★ 135k | C++ | MIT |
| nomic-ai/gpt4all | ★ 77k | C++ | MIT |
| ml-explore/mlx | ★ 29k | C++ | MIT |
| alibaba/MNN | ★ 17k | C++ | Apache 2.0 |
Muốn cài repo này lên máy chủ, làm web/app từ repo này, hoặc cần người hướng dẫn dùng? Nhắn CreatorFlow — tư vấn miễn phí, báo giá trước khi làm.
Xem Top repo LLM & Chatbot để so sánh với các repo cùng chủ đề.