首页 › AI Skills 开源项目 › LiteLLM
Li

LiteLLM

开源 · ⭐ 20k+ ·

LLM统一API代理。100+模型提供商的OpenAI兼容接口+成本追踪。

GitHub 开源仓库 ↗ 返回全部 Skills
来源
开源
GitHub Stars
⭐ 20k+
主要语言
分类
📦 LLM推理 / 部署 / 微调

分类说明

技术标签

🔒
私有化部署 — 开源项目对数字游民的意义
开源项目最大的优势：数据不出你的服务器。适合处理敏感客户数据或内部系统。

如何开始？

三步上手这个开源项目

1 Star + Clone 仓库，阅读 README 了解项目概况
2 按照 Quick Start 文档安装依赖（通常 pip install 或 npm install 一条命令）
3 运行官方示例代码，确认环境正常。然后接入你的项目或工作流

同类开源项目

在「LLM推理 / 部署 / 微调」分类下的其他选择

Ollama
开源 · ⭐ 171k+
本地运行LLM最简单的方式。支持Llama/Mistral/DeepSeek/Qwen等几十个模型。一键下载运行。
vLLM
开源 · ⭐ 79k+
高吞吐LLM推理引擎。PagedAttention技术，比HuggingFace快24倍。
llama.cpp
开源 · ⭐ 80k+
C++ LLM推理引擎。CPU/边缘设备上高效运行LLM。GGUF格式开创者。
llamafactory
中国/开源 · ⭐ 71k+
统一LLM微调框架。支持100+模型微调，LoRA/QLoRA/全参数。
Text Generation WebUI
开源 · ⭐ 45k+
LLM全能Web UI。加载/对话/微调/评估一站式。最流行的LLM前端。
Unsloth
开源 · ⭐ 45k+
LLM微调加速库。2-5x训练加速，70%内存节省。支持Llama/Mistral/Qwen等。
← 返回 AI Skills 全景