Tinker MCP
微调LLM的AI代理。
这有什么作用
此MCP服务器使您的AI代理能够完全控制 修补匠的分布式培训基础设施。创建训练跑,执行前进/后退传球,更新权重,从检查点采样, 通过自然语言。
人工智能代理现在可以根据用户反馈自主改进模型,尝试训练策略,或协调整个RLHF管道。
快速开始
export TINKER_API_KEY=your_key_here
uv run tinker-mcp使用 Dedalus MCP框架 将其与其他工具一起编排。
DAuth(Dedalus Auth)
多租户MCP身份验证需要Dedalus SDK。凭据在客户端加密,并在调度时在安全区域解密。看 src/client.py 作为一个工作示例:
from dedalus_labs import AsyncDedalus, DedalusRunner
from dedalus_mcp.auth import Connection, SecretKeys, SecretValues
# Define connection schema
tinker = Connection(
name="tinker",
secrets=SecretKeys(token="TINKER_API_KEY"),
base_url="https://api.thinkingmachines.ai",
auth_header_name="X-API-Key",
auth_header_format="{api_key}",
)
# Bind credentials (encrypted client-side)
tinker_credentials = SecretValues(tinker, token=os.getenv("TINKER_API_KEY", ""))
# Use with DedalusRunner
client = AsyncDedalus(api_key=DEDALUS_API_KEY, base_url=API_URL, as_base_url=AS_URL)
runner = DedalusRunner(client)
result = await runner.run(
input="Train a LoRA on Qwen3-8B...",
model="openai/gpt-4.1",
mcp_servers=["dedalus/tinker-mcp"],
credentials=[tinker_credentials],
)有关自定义跑步者或较低级别SDK的使用,请参阅 迪达卢斯拉布斯博士.
环境
TINKER_API_KEY=... # Required. Get one at https://tinker-console.thinkingmachines.ai/keys.工具
涵盖整个Tinker培训生命周期的44个工具:
- 训练:创建LoRA会话、向前/向后传递(包括自定义丢失)、优化器步骤
- 采样:生成文本,计算logprobs(包括用于蒸馏的top-k),创建推理客户端
- 状态:保存/加载检查点,管理训练状态
- 数据:标记、解码、准备训练示例
- 管理:列出运行、检查点、会话;发布/取消发布权重
- 公用事业:推荐的学习率、渲染器选择、LR时间表、模型元数据
这是一个参考实现,使用 Dedalus MCP 框架。分叉、扩展它,或将其用作您自己的MCP服务器的模板。
