Đây là thư viện giúp fine-tune (tinh chỉnh) mô hình AI lớn bằng kỹ thuật LoRA, chỉ cần train dưới 1% số tham số nên chạy được cả trên card đồ họa chơi game. Bạn muốn dạy mô hình lớn nói theo phong cách riêng của mình có thể dùng PEFT để train nhanh, tốn ít bộ nhớ mà chất lượng vẫn tốt. Bạn cần cài Python, PyTorch và gói peft.
Thư viện giúp fine-tune mô hình AI lớn bằng kỹ thuật LoRA, chỉ cần train dưới 1% số tham số nên chạy được cả trên card đồ họa chơi game. PEFT tích hợp sẵn với Transformers, Diffusers và Accelerate, cho phép bạn gắn adapter đã train vào mô hình gốc mà không cần lưu cả mô hình lớn. Bạn muốn dạy mô hình lớn nói theo phong cách riêng của mình có thể dùng PEFT để train nhanh, tốn ít bộ nhớ mà chất lượng vẫn tốt.
git clone https://github.com/huggingface/peft.git