Chạy model ngôn ngữ ngay trên máy mình để viết kịch bản offline, không cần mạng hay API trả phí. Nhẹ, chỉ cần tải file về bấm chạy là dùng được.
KoboldCpp là một file chạy duy nhất, không cần cài đặt, để chạy model ngôn ngữ GGUF ngay trên máy mình: chat với AI, viết truyện, nhập vai hoặc nối app khác qua API local. Tải file về, chọn model rồi bấm Launch là dùng, chạy được cả CPU lẫn GPU. Lưu ý: model phải tải riêng (vd trên Hugging Face), máy yếu nên chọn model nhỏ; ngoài viết chữ còn có tạo ảnh, video, giọng nói.
▶ Dùng thử: Tải koboldcpp.exe ở trang Releases rồi bấm đúp để chạy model local viết kịch bản offline.
git clone https://github.com/LostRuins/koboldcpp.git