MCP商业AI转型
企业级MCP(模型上下文协议)服务器,配备多代理系统,用于商业AI转型。
🏗️ 架构概述
┌─────────────────┐ ┌──────────────────┐ ┌─────────────────┐
│ Agent Layer │◄──►│ MCP Gateway │◄──►│ Business APIs │
│ (Orchestrator) │ │ (Protocol Hub) │ │ (External) │
└─────────────────┘ └──────────────────┘ └─────────────────┘
│ │ │
▼ ▼ ▼
┌─────────────────┐ ┌──────────────────┐ ┌─────────────────┐
│ LLM Fabric │ │ State Manager │ │ Monitoring Hub │
│ (Multi-Model) │ │ (Redis+Postgres) │ │ (Observability) │
└─────────────────┘ └──────────────────┘ └─────────────────┘🚀 特性
核心MCP服务器
- 基于FastAPI 高性能服务器
- MCP协议 符合(2024-11-05规范)
- 多提供商LLM支持 (进化基金会模型、OpenAI、HuggingFace)
- 断路器 API外部弹性模式
- 速率限制 基于Redis的滑动窗口
- JWT和API密钥 认证
- 普罗米修斯指标 和OpenTetry跟踪
多代理系统
- 专业代理:数据分析师、API执行人、业务验证人、报告生成器
- 代理注册表 用于动态代理管理
- 消息总线 用于代理间通信
- 任务编排 智能代理选择
- LangChain/LlamaIdex 集成先进的人工智能功能
企业功能
- 实时仪表盘 React+TypeScript
- 业务领域支持:金融、医疗保健、零售、制造业、技术
- 可观测性堆栈普罗米修斯、格拉法娜、耶格尔
- Docker Compose 便于部署
- 生产准备就绪 采用安全最佳实践
🛠️ 技术栈
前端
- Next.js 15 使用App Router
- TypeScript 5 用于类型安全
- 顺风CSS 4 使用shadcn/ui组件
- 实时更新 支持WebSocket
后端
- Python 3.11 使用FastAPI
- PostgreSQL 用于持久存储
- 瑞迪斯 用于缓存和速率限制
- 异步 用于高并发
AI/ML
- 进化基础模型 (Cloud.ru)
- OpenAI API 兼容性
- LangChain 用于代理编排
- Llama索引 用于数据索引
开发运维
- 码头工人 容器化
- 普罗米修斯 监控
- 格拉法纳 仪表盘
- 猎手 分布式追踪
📦 快速开始
先决条件
- Docker&Docker编写
- Node.js 18+(用于本地开发)
- Python 3.11+(用于本地开发)
环境配置
创建一个 .env 文件:
# API Keys
EVOLUTION_API_KEY=your_evolution_api_key
OPENAI_API_KEY=your_openai_api_key
HUGGINGFACE_API_KEY=your_huggingface_api_key
# Security
SECRET_KEY=your-super-secret-key-change-in-production
# Database (optional, defaults work with Docker)
DATABASE_URL=postgresql+asyncpg://postgres:password@localhost:5432/mcp_db
REDIS_URL=redis://localhost:6379启动系统
# Start all services
docker-compose up -d
# View logs
docker-compose logs -f
# Stop services
docker-compose down接入点
- 前端仪表板: http://localhost:3000
- MCP服务器API: http://localhost:8000
- API文档: http://localhost:8000/docs
- Grafana仪表板: http://localhost:3001(管理员/管理员)
- 普罗米修斯: http://localhost:9091
- 耶格尔追踪: http://localhost:16686
🔧 发展
地方发展设置
后端(MCP服务器)
cd mcp_server
python -m venv venv
source venv/bin/activate # On Windows: venv\Scripts\activate
pip install -r requirements.txt
uvicorn app.main:app --reload --host 0.0.0.0 --port 8000代理系统
cd agent_system
python -m venv venv
source venv/bin/activate
pip install -r requirements.txt
python main.py前端
npm install
npm run dev项目结构
├── src/ # Next.js frontend
│ ├── app/ # App Router pages
│ ├── components/ # React components
│ └── lib/ # Utility functions
├── mcp_server/ # FastAPI MCP server
│ ├── app/ # Application code
│ │ ├── api/v1/ # API endpoints
│ │ ├── core/ # Core services
│ │ └── middleware/ # Custom middleware
│ └── tests/ # Test suite
├── agent_system/ # Multi-agent system
│ ├── core/ # Agent framework
│ ├── agents/ # Specialized agents
│ └── llm/ # LLM providers
├── docker-compose.yml # Multi-service deployment
└── docs/ # Documentation📊 API使用
MCP协议
服务器实现了MCP协议,用于工具和资源管理:
# Initialize connection
curl -X POST http://localhost:8000/mcp \
-H "Content-Type: application/json" \
-d '{
"jsonrpc": "2.0",
"id": 1,
"method": "initialize",
"params": {
"protocolVersion": "2024-11-05",
"capabilities": {}
}
}'
# List available tools
curl -X POST http://localhost:8000/mcp \
-H "Content-Type: application/json" \
-d '{
"jsonrpc": "2.0",
"id": 2,
"method": "tools/list"
}'
# Execute a tool
curl -X POST http://localhost:8000/mcp \
-H "Content-Type: application/json" \
-d '{
"jsonrpc": "2.0",
"id": 3,
"method": "tools/call",
"params": {
"name": "financial_analyzer",
"arguments": {
"data": {...}
}
}
}'REST API
# Create a business task
curl -X POST http://localhost:8000/api/v1/resources/tasks \
-H "Content-Type: application/json" \
-H "Authorization: Bearer YOUR_JWT_TOKEN" \
-d '{
"title": "Financial Analysis Q4",
"description": "Analyze quarterly financial data",
"domain": "finance",
"priority": "high"
}'
# Get system status
curl -X GET http://localhost:8000/api/v1/admin/system/status
# Health check
curl -X GET http://localhost:8000/api/v1/health🔍 监测和可观察性
指标
- 请求延迟 和吞吐量
- 代理业绩 任务完成率
- LLM令牌使用情况 和成本
- 外部API 成功率和断路器状态
追踪
- 分布式跟踪 与耶格尔
- 请求相关性 鉴定
- Agent通信 追踪
日志记录
- 结构化日志记录 具有相关ID
- 日志级别:调试、信息、警告、错误
- JSON格式 便于解析
🔒 安全
认证
- JWT代币 用于用户身份验证
- API密钥 用于服务间通信
- 速率限制 每个用户/API密钥
授权
- 基于角色的访问控制 (RBAC)
- 资源级别权限
- 跨域资源共享 配置
数据保护
- 输入验证 和消毒
- SQL注入 预防
- XSS保护 标头
🚀 部署
生产部署
# Set production environment variables
export NODE_ENV=production
export DEBUG=false
# Deploy with production configurations
docker-compose -f docker-compose.yml -f docker-compose.prod.yml up -dCloud.ru进化AI代理
该系统旨在部署在Cloud.ru Evolution AI代理平台上:
- 容器注册表:将Docker镜像推送到Cloud.ru注册表
- AI代理配置:配置代理终结点和API密钥
- 负载平衡:设置负载平衡器以实现高可用性
- 监控:配置Cloud.ru监控集成
🤝 贡献
- 复刻仓库
- 创建要素分支(
git checkout -b feature/amazing-feature) - 提交您的更改(
git commit -m 'Add amazing feature') - 推到分支(
git push origin feature/amazing-feature) - 打开拉取请求
📄 许可证
此项目根据MIT许可证获得许可-请参阅 许可证 文件以获取详细信息。
🆘 支持
- 文档:检查
/docs目录 - API文件:参观http://localhost:8000/docs
- 问题:在GitHub上创建问题
- 讨论:加入我们的GitHub讨论
🗺️ 路线图
第一阶段:核心基础设施✅
- \[x\] MCP服务器实现
- \[x\] 多代理系统
- \[x\] LLM提供商集成
- \[x\] 基础监测
第2阶段:高级功能(进行中)
- \[\]高级代理编排
- \[\]自定义工具开发框架
- \[\]高级分析和报告
- \[\]多租户支持
第3阶段:企业功能(计划中)
- \[\]高级安全功能
- \[\]合规认证
- \[\]高级监控和警报
- \[\]性能优化
第四阶段:AI/ML增强(未来)
- \[\]定制模型培训
- \[\]先进的快速工程
- \[\]多模式AI功能
- \[\]AutoML集成
______________________________________________________________________
内置于❤️ 企业人工智能转型
