CreatorFlow / Kho Repo / kserve/kserve

kserve/kserve

KServe

LLM & ChatbotGoApache 2.0🔴 Nâng cao★ 6k🕐 Cập nhật 18/11/2026✨ MỚI

📖 Mô tả

Nền tảng chuẩn hóa để chạy các mô hình AI dự đoán và AI tạo sinh trên Kubernetes, theo kiểu phân tán và có thể mở rộng. Repo này dành cho đội ngũ đã biết Kubernetes và cần triển khai mô hình từ nhiều framework trong môi trường máy chủ.

📝 Tóm tắt README

Nền tảng inference AI phân tán cho Kubernetes. Hỗ trợ triển khai mô hình dự đoán và mô hình tạo sinh ở quy mô lớn.

🎯 Khi nào nên dùng repo này

👤 Phù hợp với ai

Người có kinh nghiệm — cần hiểu sâu về kiến trúc và tự cấu hình theo nhu cầu.

✨ Tính năng nổi bật

▶ Dùng thử

▶ Dùng thử:
  1. B1: Mở trang GitHub của repo, đọc phần README/Quickstart và kiểm tra yêu cầu Kubernetes
  2. B2: Cài KServe vào cụm Kubernetes theo hướng dẫn
  3. B3: Tạo một InferenceService để triển khai mô hình và gửi yêu cầu dự đoán thử
git clone https://github.com/kserve/kserve.git

⚖️ So sánh nhanh với repo tương tự

RepoSaoNgôn ngữGiấy phép
kserve/kserve (repo này)★ 6kGoApache 2.0
ollama/ollama★ 187kGoMIT
mudler/LocalAI★ 50kGoMIT
huggingface/transformers★ 169kPythonApache 2.0
open-webui/open-webui★ 159kTypeScriptKhông rõ giấy phép

🛠 Cần hỗ trợ triển khai?

Muốn cài repo này lên máy chủ, làm web/app từ repo này, hoặc cần người hướng dẫn dùng? Nhắn CreatorFlow — tư vấn miễn phí, báo giá trước khi làm.

🔗 Repo tương tự

Xem Top repo LLM & Chatbot để so sánh với các repo cùng chủ đề.

← Quay lại Kho Repo