OpenAI完整MCP服务器
MCP(模型上下文协议)服务器,为LLM提供干净的接口,以便通过MCP协议使用文本完成功能。该服务器充当LLM客户端和任何OpenAI兼容的API之间的桥梁。主要用例是 基础模型,因为服务器不支持聊天完成。
特性
- 提供一个名为“complete”的工具来生成文本补全
- 正确处理异步处理以避免阻塞
- 通过优雅的回退实现超时处理
- 支持取消正在进行的请求
安装
# Clone the repository
git clone
cd mcp-openai-complete
# Install dependencies
pnpm install
# Build the project
pnpm run build配置
需要以下环境变量:
OPENAI_API_KEY=your-hyperbolic-api-key
OPENAI_API_BASE=https://api.hyperbolic.xyz/v1
OPENAI_MODEL=meta-llama/Meta-Llama-3.1-405B用法
启动服务器:
pnpm start这将启动stdio上的服务器,使MCP客户端可以与之通信。
Docker使用
构建Docker镜像
docker build -t mcp-openai-complete .运行容器
# Run with environment variables
docker run -it --rm \
-e OPENAI_API_KEY="your-api-key" \
-e OPENAI_MODEL="gpt-3.5-turbo-instruct" \
mcp-openai-complete您还可以使用.env文件:
# Run with .env file
docker run -it --rm \
--env-file .env \
mcp-openai-complete“完整”工具的参数
prompt(string,必填):文本提示完成max_tokens(整数,可选):要生成的最大令牌数,默认值:150temperature(数字,可选):控制随机性(0-1),默认值:0.7top_p(数字,可选):通过细胞核采样控制多样性,默认值:1.0frequency_penalty(数字,可选):减少令牌序列的重复,默认值:0.0presence_penalty(数字,可选):增加谈论新话题的可能性,默认值:0.0
发展
对于自动重新加载的开发:
npm run dev许可证
麻省理工学院

