LiteLLM là 'cổng chung' để gọi hơn 100 loại model AI khác nhau bằng một cách viết duy nhất: code viết một lần là dùng được với OpenAI, Claude, Gemini hay model chạy local mà không cần sửa lại. Nó còn làm được máy chủ trung gian cho cả công ty dùng chung, theo dõi chi phí và giới hạn dùng. Dân lập trình dùng nó để không bị 'khóa' vào một hãng AI. Lưu ý: bạn vẫn cần key API của từng hãng muốn dùng.
LiteLLM là cổng chung để gọi hơn 100 loại model AI khác nhau bằng một cách viết duy nhất: code viết một lần là dùng được với OpenAI, Claude, Gemini hay model chạy local mà không cần sửa lại. Nó còn làm được máy chủ trung gian cho cả công ty dùng chung, theo dõi chi phí và giới hạn dùng. Dân lập trình dùng nó để không bị khóa vào một hãng AI. Lưu ý: bạn vẫn cần key API của từng hãng muốn dùng.
git clone https://github.com/BerriAI/litellm.git