调整引擎CLI和MCP服务器

](https://www.npmjs.com/package/tuningengines-cli)  
拥有自己的主权AI模型。对开源LLM和SLM进行特定领域的微调,实现完全控制和零基础设施麻烦。
调整发动机 提供专门的调优代理,根据您的需求定制顶级开放模型——快速、可预测、完全交付。通过CLI或任何兼容MCP的AI助手,在您的数据上微调Qwen、Llama、DeepSeek、Mistral、Gemma、Phi、StarCoder和CodeLlama模型的1B到72B参数。支持LoRA、QLoRA和完全微调。GPU配置、训练编排和模型交付都得到了全面管理。
培训代理
调整引擎使用专门的 代理 控制如何分析数据并将其转换为训练数据。每个代理都会生成一种针对其用例进行优化的特定于领域的微调模型。目前的代理专注于代码,更多的代理将用于客户支持、数据提取、安全审查、运维和其他领域。
科迪(code_repo)--代码自动补全代理
Cody通过Axolotl框架(HuggingFace Transformers+PEFT)使用QLoRA(4位量化LoRA)在GitHub仓库中进行微调。它学习代码库的模式、命名约定和项目结构,以生成针对实时完成进行优化的快速、轻量级的适配器。
最适合: 代码自动补全、内联建议、选项卡补全、代码样式匹配、模式补全。
te jobs create --agent code_repo \
--base-model Qwen/Qwen2.5-Coder-7B-Instruct \
--repo-url https://github.com/your-org/your-repo \
--output-name my-cody-model
锡拉(sera_code_repo)--Bug修复专家
SIERA(合成智能错误解决代理)使用AllenAI的开放编码代理方法从您的存储库中生成有针对性的错误修复训练数据。它综合了现实的错误场景及其解决方案,然后微调了一个模型,该模型学习了团队的调试风格、错误处理约定和修复模式。
最适合: 调试、错误解决、补丁生成、根本原因分析、修复建议。
te jobs create --agent sera_code_repo \
--quality-tier high \
--base-model Qwen/Qwen2.5-Coder-7B-Instruct \
--repo-url https://github.com/your-org/your-repo \
--output-name my-siera-model
质量等级(仅SIERA):
low --更快、更少的合成对(默认)high --更深入的分析,更多的训练数据,更好的结果
即将推出
| Agent | Persona | 它的作用 |
|---|
| 解决 | Mira | 对支持票、宏和知识库文章进行微调,以实现自动票解析 |
| 提取器 | Flux | 训练从文档、PDF和业务文本中严格提取模式 |
| 守卫 | Aegis | 专注于安全的代码审查员,捕捉风险模式并提出更安全的修复方案 |
| 操作 Pilot | Atlas | 事件响应人员接受过运行手册、尸检和待命记录方面的培训 |
支持的基本型号
| 尺寸 | 型号 |
|---|
| 第3页 | Qwen/Qwen2.5-Coder-3B-Instruct |
| 7B | codellama/CodeLlama-7b-hf, deepseek-ai/deepseek-coder-7b-instruct-v1.5, Qwen/Qwen2.5-Coder-7B-Instruct |
| 13-15B | codellama/CodeLlama-13b-Instruct-hf, bigcode/starcoder2-15b, Qwen/Qwen2.5-Coder-14B-Instruct |
| 32-34B | deepseek-ai/deepseek-coder-33b-instruct, codellama/CodeLlama-34b-Instruct-hf, Qwen/Qwen2.5-Coder-32B-Instruct |
| 70-72B | codellama/CodeLlama-70b-Instruct-hf, meta-llama/Llama-3.1-70B-Instruct, Qwen/Qwen2.5-72B-Instruct |
快速开始
npm install -g tuningengines-cli
# Sign up or log in (opens browser — works for new accounts too)
te auth login
# Add credits (opens browser to billing page)
te billing add-credits
# Estimate cost before training
te jobs estimate --base-model Qwen/Qwen2.5-Coder-7B-Instruct
# Train Cody on your repo
te jobs create --agent code_repo \
--base-model Qwen/Qwen2.5-Coder-7B-Instruct \
--repo-url https://github.com/your-org/your-repo \
--output-name my-model
# Monitor training
te jobs status --watch
# View your trained models
te models list
MCP服务器设置
CLI包括一个内置的MCP服务器,带有35多种工具。任何支持MCP的AI助手都可以通过自然语言微调模型、管理训练作业、运行评估、检查推理使用情况和管理数据集。
克劳德桌面
添加 ~/Library/Application Support/Claude/claude_desktop_config.json:
{
"mcpServers": {
"tuning-engines": {
"command": "npx",
"args": ["-y", "tuningengines-cli", "mcp", "serve"],
"env": {
"TE_API_KEY": "te_your_key_here"
}
}
}
}
克劳德代码
claude mcp add tuning-engines -- npx -y tuningengines-cli mcp serve
VS代码/光标/风帆
添加到MCP设置(.vscode/mcp.json 或同等):
{
"servers": {
"tuning-engines": {
"command": "npx",
"args": ["-y", "tuningengines-cli", "mcp", "serve"],
"env": {
"TE_API_KEY": "te_your_key_here"
}
}
}
}
AI助手能做什么
连接后,您的AI助手可以:
- “使用SIERA代理对我的组织/我的仓库上的Qwen 7B进行高质量的微调”
- “在这个回购上训练一个3个时代的32B模型需要多少钱?”
- “检查我最新培训工作的状态”
- “列出我训练过的模型”
- “将我的模型导出到s3://my bucket/models/”
- “显示我的账户余额”
- “在此仓库上培训一名bug修复专家”(自动选择SIERA)
- “为此代码库创建自动完成模型”(自动选择Cody)
这 create_job 工具描述包括完整的代理详细信息和模型列表,因此AI助手会根据您的要求自动选择正确的代理和模型。
CLI命令
认证
| 命令 | 描述 |
|---|
te auth login | 通过浏览器注册或登录 |
te auth logout | 清除已保存的凭据 |
te auth status | 显示当前身份验证状态(电子邮件、余额) |
培训工作
| 命令 | 描述 |
|---|
te jobs list | 列出所有培训工作 |
te jobs show | 显示作业详细信息 |
te jobs create | 提交培训作业(--agent, --quality-tier, --base-model, --repo-url, --output-name) |
te jobs status | 实时状态(--watch 用于连续轮询) |
te jobs cancel | 取消正在运行的作业 |
te jobs retry | 从上一个检查点重试 |
te jobs estimate | 提交前的成本估算 |
te jobs validate-s3 | 预验证S3凭据 |
模型
| 命令 | 描述 |
|---|
te models list | 列出您训练过的模型 |
te models show | 显示模型详细信息 |
te models base | 列出支持的基本型号 |
te models import | 从S3导入模型 |
te models export | 将模型导出到S3 |
te models delete | 删除模型 |
te models status | 检查导入/导出状态 |
数据集
| 命令 | 描述 |
|---|
te datasets list | 列出所有数据集 |
te datasets show | 显示数据集详细信息 |
te datasets create | 从S3创建数据集(--name, --s3-url, --for-evaluation) |
te datasets delete | 删除数据集 |
te datasets status | 检查导入/处理状态 |
评估
| 命令 | 描述 |
|---|
te evals list | 列出所有评估 |
te evals show | 显示评估详细信息和分数 |
te evals create | 运行评估(--model, --dataset, --evaluators) |
te evals cancel | 取消正在进行的评估 |
te evals status | 实时评估进度 |
te evals evaluators | 列出可用的评估人员 |
te evals estimate | 评估成本估算 |
推断
| 命令 | 描述 |
|---|
te inference models | 列出可用的推理模型 |
te inference usage | 显示推断API使用情况统计信息 |
te inference jwt | 获取JWT以直接访问API |
代理
| 命令 | 描述 |
|---|
te agents list | 列出可用代理 |
te agents show | 显示代理详细信息和功能 |
账单和账户
| 命令 | 描述 |
|---|
te billing show | 余额和交易历史 |
te billing add-credits | 打开浏览器添加学分 |
te account | 账户信息 |
配置
| 命令 | 描述 |
|---|
te config set-token | 手动设置API密钥 |
te config set-url | 覆盖API URL |
te config show | 显示当前配置 |
所有命令支持 --json 用于机器可读输出。
MCP工具参考
培训工作
| 工具 | 说明 |
|---|
create_job | 在GitHub仓库上微调LLM。支持代理选择(Cody、SIERA)、质量层、基础模型、纪元、S3导出。 |
estimate_job | 培训前的成本估算。返回成本范围、余额、充足性检查。 |
list_jobs | 列出带有状态过滤器的培训工作 |
show_job | 完整的作业详细信息,包括代理、型号、GPU使用情况、成本、重试信息 |
job_status | 实时状态,包括GPU分钟数、费用、交付进度 |
cancel_job | 取消正在运行/排队的作业 |
retry_job | 从上一个检查点重试失败的作业 |
validate_s3 | 在提交作业之前测试S3凭据 |
模型
| 工具 | 说明 |
|---|
list_models | 列出训练和导入的模型 |
show_model | 模型详细信息(状态、尺寸、基础模型、培训任务) |
delete_model | 从云存储中删除模型 |
import_model | 从S3导入模型 |
export_model | 将模型导出到S3 |
model_status | 导入/导出进度 |
list_supported_models | 每历元GPU小时数的可用基本型号 |
市场
| 工具 | 说明 |
|---|
list_catalog_models | 浏览预先构建的模型和数据集 |
get_catalog_model | 市场商品的详细信息 |
export_catalog_model | 将市场项目导出到S3 |
catalog_export_status | 检查市场导出进度 |
数据集
| 工具 | 说明 |
|---|
list_datasets | 列出用于培训和评估的数据集 |
show_dataset | 数据集详细信息和状态 |
create_dataset | 从S3创建数据集 |
delete_dataset | 删除数据集 |
dataset_status | 检查数据集导入/处理状态 |
评估
| 工具 | 说明 |
|---|
list_evaluations | 列出模型评估 |
show_evaluation | 评估细节、分数和指标 |
create_evaluation | 对数据集运行评估 |
cancel_evaluation | 取消正在进行的评估 |
evaluation_status | 实时评估进度 |
list_evaluators | 可用的评估器(代码执行、相似性、llm_judge等) |
estimate_evaluation | 评估成本估算 |
推断
| 工具 | 说明 |
|---|
list_inference_models | 可用于推理的模型 |
inference_usage | 推断API使用情况统计 |
get_inference_jwt | 获取JWT令牌以直接访问API |
代理
| 工具 | 说明 |
|---|
list_agents | 列出可用代理 |
show_agent | 代理详细信息和功能 |
账户
| 工具 | 说明 |
|---|
get_balance | 账户余额和最近交易 |
get_account | 账户详细信息 |
环境变量
| 变量 | 描述 |
|---|
TE_API_KEY | API密钥(替代配置文件) |
TE_API_URL | API URL(默认值: https://app.tuningengines.com) |
认证
te auth login 使用安全的设备授权流(与 gh auth login):
- CLI生成设备代码并打开浏览器
- 注册或登录(电子邮件/密码、谷歌或GitHub)
- 点击“授权”以授予CLI访问权限
- 令牌自动返回——无需复制粘贴
适用于新注册和现有帐户。令牌已保存到 ~/.tuningengines/config.json 和 0600 权限。
链接
许可证
麻省理工学院