Vyacheslav Vanin MCP

LLM聊天服务器

FastAPI服务器，用于与LLM（OpenAI）进行聊天交互。

配置

配置是通过环境变量和CLI参数进行管理的。

环境变量

示例 .env 文件：

LLM_API_KEY=your-api-key
LLM_MODEL=qwen2.5-coder:latest
PORT=8000
LLM_PROVIDER=openai

CLI参数

CLI使用示例：

# Using environment variable
export LLM_API_KEY=your-api-key
uv run main.py --model qwen2.5-coder:latest --port 8000

# Using API key file
uv run main.py --model qwen2.5-coder:latest --port 8000 --api-key-file /path/to/api.key

API终点

• POST /user_request -处理用户聊天请求
• POST /approve -处理工具批准/拒绝
• GET /session_state -获取当前会话状态
• POST /start_session -创建新会话

请求/响应格式

请求（POST/user_Request）

{
    "input": "user message"
}

响应

{
    "request_id": "uuid",
    "requires_approval": true,
    "tool": {
        "name": "tool-name",
        "arguments": {
            "arg1": "value1",
            "arg2": "value2"
        }
    },
    "message": "response content",
    "model": "model-name",
    "role": "assistant"
}

工具批准（POST/批准）

{
    "request_id": "uuid",
    "approve": true
}

示例用法

import requests

# Start session
response = requests.post("http://localhost:8000/start_session", json={
    "current_directory": "/projects",
    "model": "qwen2.5-coder:latest"
})

# Send message
response = requests.post("http://localhost:8000/user_request", json={
    "input": "Hello, how are you?"
})

# Approve tool call
response = requests.post("http://localhost:8000/approve", json={
    "request_id": "12345",
    "approve": true
})