nanoGPT là đoạn code siêu gọn (chỉ vài trăm dòng) để tự huấn luyện một model AI kiểu GPT từ đầu, ai đọc cũng hiểu được toàn bộ cách model hoạt động. Nó là 'sách giáo khoa bằng code' cho người muốn hiểu thật sự AI được huấn luyện ra sao, thay vì chỉ dùng model có sẵn. Lưu ý: tác giả ghi rõ repo này cũ và khuyên dùng bản mới nanochat; huấn luyện thật cần card đồ họa mạnh và mất nhiều thời gian.
nanoGPT là đoạn code siêu gọn, chỉ vài trăm dòng, để tự huấn luyện một model AI kiểu GPT từ đầu, ai đọc cũng hiểu được toàn bộ cách model hoạt động. Nó là sách giáo khoa bằng code cho người muốn hiểu thật sự AI được huấn luyện ra sao, thay vì chỉ dùng model có sẵn. Lưu ý: tác giả ghi rõ repo này cũ và khuyên dùng bản mới nanochat; huấn luyện thật cần card đồ họa mạnh và mất nhiều thời gian.
git clone https://github.com/karpathy/nanoGPT.git