Poc MCP LLM Stack

poc-mcp llm堆叠

概念证明： 一种人工智能架构，结合了大型语言模型（LLM）、矢量数据库和MCP风格的代理，以集成企业系统。\ 该项目展示了人工智能如何轻松地集成到企业工作流程中，作为 无穷。纽带 视觉。

______________________________________________________________________

🚀 安装

使用 Kevin的包装经理:

pkgmgr install pmls

或者克隆存储库并从Docker Compose开始。

______________________________________________________________________

🧩 组件

• Ollama+开放式WebUI → 运行LLM并与之交互
• 文学硕士 → OpenAI兼容代理（MCP风格）
• Qdrant → 用于嵌入与检索的矢量数据库
• MinIO → 文档和知识的对象存储
• 流动 → 编排和实验工具
• 模拟API → 模拟ERP、CRM和票务系统服务

______________________________________________________________________

⚡ 快速入门

启动堆栈

docker compose up -d

负载模型（一次性）

docker exec -it ollama ollama pull llama3
# optional: embeddings
docker exec -it ollama ollama pull nomic-embed-text

______________________________________________________________________

🔗 接入点

• 打开WebUI → http://localhost:3001 （直接连接Ollama）

• 流动 → http://localhost:3000 （登录： admin / admin)

• Qdrant控制台/API → http://localhost:6333

• LiteLLM（OpenAI API） → http://localhost:4000/v1 （API密钥任意，例如。 dummy-key)

• MinIO控制台 → http://localhost:9001 (admin / adminadmin)

• 模拟API →

- 票务系统： http://localhost:7010/\_\_admin - ERP： http://localhost:7020 - 客户关系管理： http://localhost:7030

______________________________________________________________________

🛠️ Flowise中的建筑流程

• OpenAI节点

- 基本URL: http://litellm:4000/v1 - API密钥： dummy-key - 型号： ollama/llama3

• 嵌入节点

- 基本URL: http://litellm:4000/v1 - 型号： ollama/nomic-embed-text

• 矢量存储节点

- 网址： http://qdrant:6333

• 工具/HTTP

- 呼叫 ticketsystem:8080, erp:8080, crm:8080 （通过同一网络中的容器DNS）

______________________________________________________________________

📚 知识摄入

1. 将文档上传到MinIO（例如bucket） knowledge/).
2. 构建Flowise管道： 加载器→ 嵌入器→ Qdrant.

这允许使用您的文档进行检索增强生成（RAG）。 要集成真实系统（例如OTRS、ERPNext、Odoo），请将WireRock容器1:1替换为其官方映像，并更新Flowise端点。

______________________________________________________________________

👤 作者

由...创建 凯文·维恩·伯肯巴赫

______________________________________________________________________

🙏 致谢

• 特别感谢 伯恩德·埃尔克NETWAYS首席执行官，感谢他在 Bitkom论坛开源2025.
• 也感谢 战役 组织会议并提供宝贵的灵感。

______________________________________________________________________

📖 上下文

该项目是Infinito内部的PoC。Nexus计划评估人工智能如何无缝集成到模块化IT基础设施中。

在此处查看导致此项目的完整对话： ChatGPT日志