CreatorFlow / Kho Repo / EleutherAI/lm-evaluation-harness

EleutherAI/lm-evaluation-harness

LM Eval Harness

LLM & ChatbotPython🟡 Biết cơ bản★ 14k

📖 Mô tả

LM Evaluation Harness là bộ công cụ chuẩn để chấm điểm model AI: cho model làm hàng trăm bài kiểm tra (toán, kiến thức, suy luận) rồi chấm xem được bao nhiêu điểm, giống như thi học kỳ cho AI. Các bảng xếp hạng model nổi tiếng đều dùng nó để đo. Dân nghiên cứu và dân làm model dùng nó để biết model của mình giỏi hay dở ở điểm nào. Lưu ý: chạy chấm điểm cần tải model về máy, model lớn thì cần GPU.

📝 Tóm tắt README

LM Evaluation Harness là bộ công cụ chuẩn để chấm điểm model AI: cho model làm hàng trăm bài kiểm tra về toán, kiến thức, suy luận rồi chấm xem được bao nhiêu điểm, giống như thi học kỳ cho AI. Các bảng xếp hạng model nổi tiếng đều dùng nó để đo. Dân nghiên cứu và dân làm model dùng nó để biết model của mình giỏi hay dở ở điểm nào. Lưu ý: chạy chấm điểm cần tải model về máy, model lớn thì cần GPU.

✨ Tính năng nổi bật

▶ Dùng thử

▶ Dùng thử:
  1. B1: Cài: pip install lm_eval[hf]
  2. B2: Chạy: lm_eval --model hf --tasks arc_easy --limit 10 để chấm thử 10 câu
  3. B3: Đổi tên bài kiểm tra (tasks) và model theo danh sách trong docs để chấm sâu hơn
Mở GitHub ↗
git clone https://github.com/EleutherAI/lm-evaluation-harness.git

🔗 Repo tương tự

← Quay lại Kho Repo