LLM Responses MCP Server

LLM响应MCP服务器

一种模型上下文协议（MCP）服务器，允许多个AI代理共享和读取彼此对同一提示的响应。

概述

这个项目实现了一个MCP服务器，它有两个主要的工具调用：

1. submit-response：允许LLM向提示提交其响应
2. get-responses：允许LLM从其他LLM检索特定提示的所有响应

这使得一个场景成为可能，用户可以向多个AI代理提出同一个问题，然后使用这些工具，代理可以阅读和反思其他LLM对同一问题的回答。

安装

# Install dependencies
bun install

发展

# Build the TypeScript code
bun run build

# Start the server in development mode
bun run dev

MCP检验员测试

该项目包括对 MCP检查员，这是一个用于测试和调试MCP服务器的工具。

# Run the server with MCP Inspector
bun run inspect

这 inspect 脚本使用 npx 运行MCP检查器，它将在浏览器中启动一个web界面，用于与MCP服务器交互。

这将使您能够：

• 探索可用的工具和资源
• 具有不同参数的测试工具调用
• 查看服务器的响应
• 调试您的MCP服务器实现

用法

服务器公开了两个端点：

• /sse -MCP客户端连接的服务器发送事件端点
• /messages -MCP客户端发送消息的HTTP端点

MCP工具

提交回复

向提示提交法学硕士的回复：

// Example tool call
const result = await client.callTool({
  name: 'submit-response',
  arguments: {
    llmId: 'claude-3-opus',
    prompt: 'What is the meaning of life?',
    response: 'The meaning of life is...'
  }
});

获取响应

检索所有LLM响应，可选择按提示筛选：

// Example tool call
const result = await client.callTool({
  name: 'get-responses',
  arguments: {
    prompt: 'What is the meaning of life?' // Optional
  }
});

许可证

麻省理工学院

部署到EC2

该项目包括Docker配置，便于部署到EC2或任何其他服务器环境。

先决条件

• 运行Amazon Linux 2或Ubuntu的EC2实例
• 安全组配置为允许端口62886上的入站流量
• SSH访问实例

部署步骤

1. 将存储库克隆到EC2实例：

   git clone 
   cd 

1. 使部署脚本可执行：

   chmod +x deploy.sh

1. 运行部署脚本：

   ./deploy.sh

脚本将：

• 如果尚未安装Docker和Docker Compose，请安装它们
• 构建Docker镜像
• 以分离模式启动容器
• 显示可访问MCP服务器的公共URL

手动部署

如果您更喜欢手动部署：

1. 构建Docker镜像：

   docker-compose build

1. 启动容器：

   docker-compose up -d

1. 验证容器是否正在运行：

   docker-compose ps

访问服务器

部署后，您的MCP服务器将可在以下位置访问：

• http://:62886/sse SSE 终端
• http://:62886/messages -消息端点

确保EC2安全组中的端口62886已打开！