CreatorFlow / Kho Repo / alibaba/MNN

alibaba/MNN

MNN

LLM & ChatbotC++Apache 2.0🔴 Nâng cao★ 17k🕐 Cập nhật 18/11/2026✨ MỚI

📖 Mô tả

MNN là engine suy luận nhẹ và nhanh, giúp chạy model AI trực tiếp trên thiết bị như điện thoại hoặc máy biên. Repo này có thể dùng cho LLM chạy tại chỗ, nhưng phù hợp hơn với người đã biết C++ và triển khai AI trên thiết bị; hiệu quả còn tùy phần cứng.

📝 Tóm tắt README

Engine suy luận C++ nhẹ, tập trung vào tốc độ khi chạy AI trên thiết bị và môi trường edge. Nó phù hợp để đưa LLM hoặc model khác vào sản phẩm chạy tại chỗ.

🎯 Khi nào nên dùng repo này

👤 Phù hợp với ai

Người có kinh nghiệm — cần hiểu sâu về kiến trúc và tự cấu hình theo nhu cầu.

✨ Tính năng nổi bật

▶ Dùng thử

▶ Dùng thử:
  1. B1: Mở trang GitHub của repo, đọc phần README/Quickstart
  2. B2: Biên dịch engine theo hướng dẫn và chuẩn bị một model được hỗ trợ
  3. B3: Chạy model mẫu trên máy hoặc thiết bị đích rồi kiểm tra tốc độ suy luận
Mở GitHub ↗
git clone https://github.com/alibaba/MNN.git

⚖️ So sánh nhanh với repo tương tự

RepoSaoNgôn ngữGiấy phép
alibaba/MNN (repo này)★ 17kC++Apache 2.0
ggml-org/llama.cpp★ 135kC++MIT
nomic-ai/gpt4all★ 77kC++MIT
ml-explore/mlx★ 29kC++MIT
ggml-org/ggml★ 16kC++MIT

🛠 Cần hỗ trợ triển khai?

Muốn cài repo này lên máy chủ, làm web/app từ repo này, hoặc cần người hướng dẫn dùng? Nhắn CreatorFlow — tư vấn miễn phí, báo giá trước khi làm.

🔗 Repo tương tự

Xem Top repo LLM & Chatbot để so sánh với các repo cùng chủ đề.

← Quay lại Kho Repo