LLM Gateway MCP Setup

LLM网关MCP设置指南

用于Ollama Turbo Cloud Gateway的远程MCP服务器，具有SSH访问。

🎯 这是达斯吗？

在Hetzner服务器上运行的模型上下文协议（MCP）服务器，通过Ollama Turbo Cloud访问各种LLM模型。该服务器通过SSH远程集成到Claude Desktop，Claude Code和Goose。

✨ 特性

• llm型号所有可用型号列表
• llm_chat一般聊天查询
• llm代码代码特定请求

可用型号

• general-fast快速通用模型
• general-deep： 深度推理
• code-pro优化用于代码任务
• 更多模型 llm_models 工具

📋 条件

1. SSH 访问 到 Hetzner 服务器 （135.181.128.98）
2. SSH密钥认证 （无密码验证！）
3. 克劳德桌面 或 克劳德代码 或 鹅

🔐 Schritt 1:SSH密钥设置

SSH 密钥检查

ls ~/.ssh/id_*

如果没有密钥：

# SSH Key generieren
ssh-keygen -t ed25519 -C "your_email@example.com"

# Key zum Server kopieren
ssh-copy-id thorsten@135.181.128.98

无密码SSH测试

ssh thorsten@135.181.128.98 "echo 'SSH works!'"

✅ 如果没有密码输入的工作原理，你准备好了！

🖥️ 步骤 2: Claude 桌面配置

打开配置文件

macOS：

nano ~/Library/Application\ Support/Claude/claude_desktop_config.json

窗户：

%APPDATA%\Claude\claude_desktop_config.json

添加 MCP 条目

{
  "mcpServers": {
    "llm_gateway": {
      "command": "ssh",
      "args": [
        "thorsten@135.181.128.98",
        "node",
        "/opt/llm-gateway-mcp/dist/index.js"
      ],
      "env": {}
    }
  }
}

重新启动 Claude 桌面

1. Cmd+Q （完全结束）
2. 重新打开 Claude Desktop
3. 在MCP菜单中 llm_gateway 出现

测试

克劳德桌面提示：

Nutze das MCP-Tool "llm_models" und zeige mir alle verfügbaren Modelle.

💻 步骤 3: Claude 代码配置

创建项目配置

在您的项目根（例如 /Users/studio/dev/mein-projekt):

nano .claude.json

添加配置

{
  "mcpServers": {
    "llm_gateway": {
      "command": "ssh",
      "args": [
        "thorsten@135.181.128.98",
        "node",
        "/opt/llm-gateway-mcp/dist/index.js"
      ],
      "env": {}
    }
  }
}

测试

cd /Users/studio/dev/mein-projekt
claude code

在克劳德代码中：

Liste alle MCP-Server. Rufe dann llm_models vom llm_gateway auf.

🦆 步骤 4: Goose 配置（可选）

打开配置文件

nano ~/.config/goose/config.yaml

添加扩展

extensions:
  llm_gateway:
    enabled: true
    type: stdio
    cmd: ssh
    args:
      - thorsten@135.181.128.98
      - node
      - /opt/llm-gateway-mcp/dist/index.js
    envs: {}
    timeout: 300

Goose 重新启动

完全关闭并重新打开。

🧪 完整测试

1. 模型列表

Rufe llm_models auf.

预期结果：

{
  "models": [
    {"id": "general-fast", "name": "General Fast", "type": "general"},
    {"id": "general-deep", "name": "General Deep", "type": "general"},
    {"id": "code-pro", "name": "Code Pro", "type": "code"}
  ]
}

2. 聊天请求

Nutze llm_chat mit model "general-fast" und frage: "Was ist Quantencomputing?"

3. 代码请求

Nutze llm_code mit model "code-pro" und frage: "Erkläre Python Decorators"

🔧 故障排除

问题：MCP 未出现在 Claude 中

解决方案：

1. 克劳德桌面 完全退出 （Cmd+Q）
2. 检查配置文件（有效的JSON？）
3. 测试SSH连接： ssh thorsten@135.181.128.98 "echo OK"
4. 重新启动 Claude

问题：“权限被拒绝”

解决方案：

# SSH Key nochmal zum Server kopieren
ssh-copy-id thorsten@135.181.128.98

# Testen
ssh thorsten@135.181.128.98 "echo OK"

问题：“连接超时”

解决方案：

1. 检查网络连接
2. 服务器可用？ ping 135.181.128.98
3. SSH端口经常？ nc -zv 135.181.128.98 22

问题：“节点：找不到命令”

联系服务器管理员 Node.js必须安装在服务器上。

📚 MCP 工具参考

llm型号

列出所有可用型号。

参数： 无

例如：

Zeige mir alle verfügbaren Modelle via llm_models.

llm_chat

Allgemeine聊天Anfrage。

参数：

• model （string）：型号ID（z.B.“通用快速”）
• message （string） 您的问题

例如：

Nutze llm_chat mit model "general-deep" und message "Erkläre Blockchain"

llm代码

代码特定请求。

参数：

• model （字符串）：型号ID（z.B.“code-pro”）
• query （string）：代码片段

例如：

Nutze llm_code mit model "code-pro" und query "Wie funktioniert async/await?"

⚙️ 高级配置

SSH 配置以方便访问

创建 ~/.ssh/config:

Host hetzner
    HostName 135.181.128.98
    User thorsten
    IdentityFile ~/.ssh/id_ed25519

然后，您可以简化MCP配置：

{
  "command": "ssh",
  "args": [
    "hetzner",
    "node",
    "/opt/llm-gateway-mcp/dist/index.js"
  ]
}

连接保持活跃

在 ~/.ssh/config:

Host hetzner
    HostName 135.181.128.98
    User thorsten
    ServerAliveInterval 60
    ServerAliveCountMax 3

防止较长的 MCP 会话超时。

🚀 下一步

1. ✅ SSH密钥设置
2. ✅ Claude 桌面/代码配置
3. ✅ MCP工作
4. 🎉 在您的项目中使用LLM工具！

📞 支持

遇到问题：

1. 检查配置文件（有效的 JSON/YAML？）
2. 测试 SSH 连接
3. 完全重新启动 Claude
4. 遇到 Node.js 问题时联系服务器管理员

📝 许可证

私人安装指南-不适用于重新分发

______________________________________________________________________

版本： 1.0.0 最后更新时间： 2025年11月 服务器： 赫茨纳（135.181.128.98） MCP路径： /opt/llm-gateway-mcp/dist/index.js