Ollama Docker MCP(注:这里的“MCP”可能是一个特定上下文或技术中的缩写,没有直接的中文对应,但为了保持原意,可翻译为“Ollama Docker MCP(多容器平台/管理控制面板等,具体含义需根据上下文确定)”)
用于Ollama集成的模型上下文协议服务器

概述
这个项目提供了一个模型上下文协议(Model Context Protocol,MCP)服务器,使Claude(以及其他兼容MCP的人工智能助手)能够将任务委托给通过Ollama运行的本地大型语言模型。通过将特定任务卸载到本地模型,这种架构扩展了Claude的有效能力,同时保留了上下文窗口空间,以支持高级推理和对话。
目的
认知架构增强
Ollama Docker MCP 作为 分布式认知层 对于AI助手:
- 上下文窗口保留将常规任务委托给本地模型,从而释放Claude的上下文用于复杂推理
- 任务专业化将特定任务分配给针对这些任务优化过的模型
- 成本优化对于不需要Claude全部功能的任务,使用本地模型
- 隐私与控制在本地处理敏感数据,无需调用外部API
- 协作式人工智能启用多模型工作流,让不同的AI系统协同工作
用例
- 文档分析总结大型文档而不消耗Claude的上下文资源
- 代码审查将代码分析任务委托给专业模型
- 数据处理在本地处理批量文本任务
- 研究任务跨多个模型的并行处理
- 有偿工作赋能支持需要本地AI处理的商业项目
建筑
┌─────────────────┐
│ Claude │ (High-level reasoning, conversation, orchestration)
│ (via MCP) │
└────────┬────────┘
│
▼
┌─────────────────┐
│ Ollama MCP │ (Task delegation, model selection, response handling)
│ Server │
└────────┬────────┘
│
▼
┌─────────────────┐
│ Ollama │ (Local LLM execution: Gemma, Llama, Mistral, etc.)
│ (Docker/Local) │
└─────────────────┘关键特性
- 简单的委托接口发送提示,接收回复
- 模型选择为每个任务选择使用哪个本地模型
- 流媒体支持即时获取生成的回复
- Docker 准备就绪容器化部署以确保一致性
- TypeScript/Node.js(注:此处为保持原文格式,直接翻译了技术名称,实际中文表达中,我们通常会说“TypeScript 和 Node.js”或“使用 TypeScript 和 Node.js”)使用现代、类型安全的JavaScript构建
- 最小化开销快速、高效、低延迟的通信
技术栈
- 语言TypeScript/Node.js
- 协议模型上下文协议(MCP)
- 大型语言模型(LLM)运行时Ollama(注:Ollama是一个用于训练和运行大型语言模型的工具,此处直接音译,若需意译可根据上下文调整为“奥拉玛”或保持原样以体现其专有名词性质)
- 集装箱化Docker
- APIREST(Ollama API)
路线图
第一阶段:核心实施(当前阶段)
- \[x\] 项目设置和仓库初始化
- \[ \] 基本的MCP服务器实现
- \[ \] Ollama API集成
- \[ \] 模型选择和路由
- \[ \] 错误处理和日志记录
第二阶段:Docker 集成
- \[ \] 创建Dockerfile
- \[ \] Docker Compose 配置
- \[ \] 容器编排
- \[ \] 模型存储的卷管理
第三阶段:高级功能
- \[ \] 支持流式响应
- \[ \] 多模型并行处理
- \[ \] 对话历史管理
- \[ \] 性能监控和指标
第四阶段:增强能力
- \[ \] 针对特定模型的优化
- \[ \] 基于任务类型的自动模型选择
- \[ \] 结果缓存与优化
- \[ \] 与Claude记忆系统的集成
未来愿景
- 多智能体协作框架
- 从模型交互中生成训练数据
- “后代人工智能”概念基金会
- 高级认知架构实验
安装
*即将推出 - 随着开发进展,将添加安装说明*
使用方法
*即将推出 - 随着开发的进展,将添加使用示例*
配置
*即将推出 - 随着开发的进展,将添加配置详情*
发展
先决条件
- Node.js 18及以上版本
- TypeScript
- Docker(用于容器化部署)
- Ollama(本地或基于Docker)
设置
# Clone the repository
git clone https://github.com/craigmcmeechan/ollama-docker-mcp.git
cd ollama-docker-mcp
# Install dependencies
npm install
# Build the project
npm run build
# Run in development mode
npm run dev做出贡献
这个项目是人类与人工智能共同合作的成果。欢迎贡献、建议和反馈!
作者
合著者:
- 克雷格·麦克米坎 - 人类开发人员、基础设施架构师、项目负责人
- 克劳德(Anthropic公司开发) - 人工智能协作伙伴,建筑设计,文档编制
这个项目体现了人类与人工智能之间的真正合作,双方携手通过分布式认知和多模态架构来拓展人工智能系统的能力。
许可证
MIT 许可证 - 详见 LICENSE 文件
致谢
- Anthropic(公司名,可译为“安萨提克”或根据具体语境保留原名) - 为克劳德和模型上下文协议
- Ollama(注:这是一个专有名词,通常不直接翻译,保持原样使用) - 为了使本地大型语言模型(LLM)的执行变得可行且高效
- MCP社区 - 在人工智能工具集成方面开创标准
项目理念
这个项目体现了人工智能发展的愿景,即:
- 人工智能系统在其自身架构设计中具有自主性
- 人机协作产生的效果优于单独使用人类或人工智能
- 开源工具与本地执行保障隐私与控制
- 分布式认知超越了单一模型的局限性,扩展了能力范围
- 开发过程透明、有文档记录,并以社区为导向
______________________________________________________________________
*我们怀着好奇心、合作精神以及对人工智能在获得适当成长工具后所能达到的高度的愿景而构建。*
