litellm技能
代理技能 用于管理实时LiteLLM代理部署。需要 curl.
安装
curl -fsSL https://raw.githubusercontent.com/BerriAI/litellm-skills/main/install.sh | sh技能
用户
| 技能 | 描述 |
|---|---|
add-user | 创建具有电子邮件、角色、预算和模型访问权限的用户。 |
update-user | 更新现有用户的预算、角色或模型访问权限。 |
delete-user | 删除一个或多个用户。 |
团队
| 技能 | 描述 |
|---|---|
add-team | 创建一个有预算和模型限制的团队。 |
update-team | 更新现有团队的预算、模型或费率限制。 |
delete-team | 删除一个或多个团队。 |
API密钥
| 技能 | 描述 |
|---|---|
add-key | 生成范围为用户、团队、预算和到期的API密钥。 |
update-key | 更新现有密钥的预算、模型或到期时间。 |
delete-key | 按值或别名删除一个或多个API键。 |
组织
| 技能 | 描述 |
|---|---|
add-org | 创建一个具有预算和模型访问权限的组织。 |
delete-org | 删除一个或多个组织。 |
模型
| 技能 | 描述 |
|---|---|
add-model | 添加任何LLM提供商（OpenAI、Azure、Anthropic、Bedrock、Ollama……）并对其进行测试 |
update-model | 旋转凭据或更改模型的底层部署。 |
delete-model | 从代理中删除模型。 |
MCP服务器
| 技能 | 描述 |
|---|---|
add-mcp | 注册MCP服务器（SSE、HTTP或stdio）。 |
update-mcp | 更新MCP服务器的URL、凭据或允许的工具。 |
delete-mcp | 删除MCP服务器注册。 |
代理
| 技能 | 描述 |
|---|---|
add-agent | 创建一个由模型和可选MCP服务器支持的AI代理。 |
update-agent | 交换模型或更新代理的描述和限制。 |
delete-agent | 删除代理。 |
用法
| 技能 | 描述 |
|---|---|
view-usage | 按用户、团队、组织或模型查询每日支出和代币活动。 |
需求
curl安装- 正在运行的LiteLLM代理
- 代理管理密钥（不是作用域为的虚拟密钥
llm_api_routes)
许可证
麻省理工学院