基于模型上下文协议和人工智能模型的协同多智能体框架
问题陈述：
现代生成式人工智能系统正在围绕某些专业构建，并针对特定类型的任务进行优化，如一般推理、图像、声音或其他类型的媒体生成和操作、代码生成或微调的本地模型。这引入了多个AI代理协作的需求，以实现由多种类型的子任务组成的复杂任务。大多数现有系统通常与单个提供商绑定，限制了多个代理之间的互操作性。
建议解决方案：
该项目提出并演示了一个基于模型上下文协议的多代理协作框架，该框架实现了针对不同目的优化的多个代理之间的无缝通信。该系统引入了一个MCP中继集线器，以协调不同AI代理之间的消息路由和上下文交换。
预期成果：
该项目将产生一个混合多代理MCP框架，能够跨多个AI代理协调任务，无论其底层模型架构或托管环境如何，展示互操作性、效率和上下文共享。
项目结构
llm-mcp-orchestrator/
│
├── README.md
├── requirements.txt # Python dependencies
│
├── agents/ # AI agent implementations
│ ├── __init__.py
│ ├── planner_agent.py
│ ├── executor_agent.py
│ ├── cerebras_agent.py
│ ├── groq_agent.py
│ ├── local_llm_agent.py
│ └── gemini_agent.py
│
├── llm_clients/ # Low-level LLM API clients
│ ├── cerebras_client.py
│ ├── groq_client.py
│ └── local_llm_client.py
│
├── hub/ # MCP relay hub
│ ├── __init__.py
│ ├── __main__.py
│ ├── hub_server.py # MCP server
│ └── context_store.py
│
├── client/ # Client implementations
│ ├── __init__.py
│ └── cli_client.py
│
├── results/ # Sample outputs
│ └── sample_result.txt运行项目
先决条件
- python
- 用于Cerebras和Groq的API密钥
- 本地安装的Olama
命令
- 创建虚拟环境
python3 -m venv venv
source venv/bin/activate - 安装依赖项
pip install -r requirements.txt- 设置环境变量
export CEREBRAS_API_KEY="cerebras_api_key"
export GROQ_API_KEY="groq_api_key"- 运行客户端
python3 client/cli_client.py "Task description"