Ollama MCP Chat

Ollama MCP聊天

Ollama MCP Chat是一个桌面聊天机器人应用程序，它将Ollama的本地LLM模型与MCP（模型上下文协议）服务器集成在一起，支持各种工具调用和可扩展功能。它提供了一个基于Python和PySide6的GUI，并允许您通过MCP服务器自由扩展其功能。

对于想要用Python中的GUI创建AI应用程序的开发人员来说，这个项目可以作为基础代码非常有用。

主要特点

• 在本地免费运行Olama LLM模型
• 通过MCP服务器集成和调用各种工具
• 管理和保存聊天记录
• 实时流式响应和工具调用结果
• 直观的桌面GUI（基于PySide6）
• 用于添加、编辑和删除MCP服务器的GUI支持

系统要求

• Python 3.12或更高版本
• 没有 已安装（用于本地LLM执行）
• 紫外线 （建议用于包装管理）
• MCP服务器（可以实现或使用外部MCP服务器）
• 史密斯艾 （建议用于MCP存储库）

安装

1. 克隆存储库

git clone https://github.com/your-repo/ollama-mcp-chat.git
cd ollama-mcp-chat

1. 安装uv（如果未安装）

# Using pip
pip install uv

# Or using curl (Unix-like systems)
curl -LsSf https://astral.sh/uv/install.sh | sh

# Or using PowerShell (Windows)
powershell -c "irm https://astral.sh/uv/install.ps1 | iex"

1. 安装依赖项

# Install dependencies
uv sync

1. 安装Ollama并下载模型

• 推荐\[qwen3:14b\]（ollama运行qwen3-14b）

# Install Ollama (see https://ollama.ai for details)
ollama pull 

1. MCP服务器配置（可选）

• 将MCP服务器信息添加到 mcp_config.json 文件
• 例子：

{
  "mcpServers": {
    "weather": {
      "command": "python",
      "args": ["./mcp_server/mcp_server_weather.py"],
      "transport": "stdio"
    }
  }
}

如何跑步

uv run main.py

• GUI将启动，您可以开始聊天和使用MCP工具。

主文件

• ui/chat_window.py：主GUI窗口，处理聊天/历史/设置/服务器管理
• agent/chat_history.py：管理并保存/加载聊天记录
• worker.py：处理与LLM和MCP服务器的异步通信
• agent/llm_ollama.py：集成Ollama LLM和MCP工具，处理流式响应
• mcp_server/mcp_manager.py：管理和验证MCP服务器配置文件

扩展MCP服务器

1. 将新的MCP服务器信息添加到 mcp_config.json
2. 实施和准备MCP服务器可执行文件
3. 重新启动应用程序并检查GUI中的MCP服务器列表

聊天历史记录

• 所有对话都会自动保存到 chat_history.json
• 您可以从GUI加载以前的聊天记录或开始新的聊天记录

退出命令

• 类型 quit, exit，或 bye 在程序中退出

备注

• 即使没有MCP服务器配置，基本的LLM聊天也能正常工作
• 请注意您的电脑的性能和内存使用情况，尤其是大型LLM型号
• MCP服务器可以用Python、Node.js或其他语言实现，也支持外部MCP服务器

许可证

MIT许可证