CreatorFlow / Kho Repo / InternLM/lmdeploy

InternLM/lmdeploy

LMDeploy

LLM & ChatbotPythonApache 2.0🔴 Nâng cao★ 8k🕐 Cập nhật 18/11/2026✨ MỚI

📖 Mô tả

Bộ công cụ giúp nén, triển khai và chạy mô hình ngôn ngữ lớn (LLM) nhanh hơn. Repo này hợp với người đã biết Python và muốn đưa LLM vào ứng dụng hoặc máy chủ; thường cần máy có GPU khi chạy mô hình lớn.

📝 Tóm tắt README

Toolkit cho việc nén, triển khai và phục vụ LLM. Phù hợp khi cần đưa mô hình vào sử dụng thực tế.

🎯 Khi nào nên dùng repo này

👤 Phù hợp với ai

Người có kinh nghiệm — cần hiểu sâu về kiến trúc và tự cấu hình theo nhu cầu.

✨ Tính năng nổi bật

▶ Dùng thử

▶ Dùng thử:
  1. B1: Mở trang GitHub của repo, đọc phần README/Quickstart
  2. B2: Cài môi trường theo hướng dẫn rồi chọn một mô hình LLM để thử
  3. B3: Dùng LMDeploy để nén hoặc mở dịch vụ phục vụ mô hình theo ví dụ trong README
git clone https://github.com/InternLM/lmdeploy.git

⚖️ So sánh nhanh với repo tương tự

RepoSaoNgôn ngữGiấy phép
InternLM/lmdeploy (repo này)★ 8kPythonApache 2.0
huggingface/transformers★ 169kPythonApache 2.0
vllm-project/vllm★ 97kPythonApache 2.0
unslothai/unsloth★ 80kPythonApache 2.0
hiyouga/LlamaFactory★ 76kPythonApache 2.0

🛠 Cần hỗ trợ triển khai?

Muốn cài repo này lên máy chủ, làm web/app từ repo này, hoặc cần người hướng dẫn dùng? Nhắn CreatorFlow — tư vấn miễn phí, báo giá trước khi làm.

🔗 Repo tương tự

Xem Top repo LLM & Chatbot để so sánh với các repo cùng chủ đề.

← Quay lại Kho Repo