CreatorFlow / Kho Repo / lm-sys/FastChat

lm-sys/FastChat

FastChat

LLM & ChatbotPython🔴 Nâng cao★ 40k

📖 Mô tả

FastChat là nền tảng mã nguồn mở để huấn luyện, chạy và chấm điểm các chatbot AI: nó chính là hệ thống đứng sau Chatbot Arena, nơi người dùng bình chọn xem model AI nào trả lời hay hơn. Dân nghiên cứu dùng nó để so tài các model, dân lập trình dùng nó để tự host chatbot có giao diện web và API chuẩn OpenAI. Lưu ý: đây là công cụ cho người làm AI chuyên sâu, cần máy chủ có card đồ họa.

📝 Tóm tắt README

FastChat là nền tảng mã nguồn mở để huấn luyện, chạy và chấm điểm các chatbot AI: nó chính là hệ thống đứng sau Chatbot Arena, nơi người dùng bình chọn xem model AI nào trả lời hay hơn. Dân nghiên cứu dùng nó để so tài các model, dân lập trình dùng nó để tự host chatbot có giao diện web và API chuẩn OpenAI. Lưu ý: đây là công cụ cho người làm AI chuyên sâu, cần máy chủ có card đồ họa.

✨ Tính năng nổi bật

▶ Dùng thử

▶ Dùng thử:
  1. B1: Cài: pip3 install fschat[model_worker,webui]
  2. B2: Chạy thử nhanh: python3 -m fastchat.serve.cli --model-path lmsys/vicuna-7b-v1.5
  3. B3: Muốn mở giao diện web thì chạy 3 lệnh controller, worker và webui theo hướng dẫn Serving trong README
Mở GitHub ↗
git clone https://github.com/lm-sys/FastChat.git

🔗 Repo tương tự

← Quay lại Kho Repo