快速接入

先看主来源和安装命令，再打开仓库或文档；下面只保留这个条目的关键接入事实。

命令预览

pip install -r requirements.txt

详细介绍

AI网络聊天界面

一个极简主义的web UI，用于与多个AI模型提供商（Ollama、OpenAI、Google、OpenRouter和Claude）进行交互，并支持MCP（模型上下文协议）HTTP SSE。

特性

🤖 多个AI提供商：支持Ollama、OpenAI、Claude、谷歌和OpenRouter
💬 实时流媒体：用于流式响应的服务器发送事件（SSE）
🔌 MCP集成：使用JSON-RPC 2.0对模型上下文协议服务器的HTTP SSE支持
🛠️ 工具调用：全面支持所有提供商的MCP工具发现和执行
🔍 QA代理：使用可配置的后续模型进行数据验证的自动响应验证
📊 实时统计：实时查询统计数据，包括到第一个令牌的时间、令牌/秒和总时间
📋 活动日志：侧边栏中的逐步活动跟踪，显示连接、思维、流媒体和工具状态
🎨 极简主义UI：简洁、深色主题的聊天界面，布局紧凑
🐳 Docker化：使用Docker和Docker Compose轻松部署
🔄 实时状态：具有可折叠详细信息的实时MCP连接状态监控
⌨️ 命令历史：向上/向下箭头可浏览以前的消息
📦 可折叠工具：单击工具调用展开/折叠JSON详细信息
🧠 思维模型支持：扩展了qwen3-next等推理模型的超时和状态更新

快速开始

使用Docker Compose（推荐）

克隆和配置:

cd /home/toor/AI-Web2
cp .env.example .env
# Edit .env and add your API keys

构建并运行:

docker-compose up --build

访问用户界面:

- 打开浏览器http://localhost:5005

手动安装

安装依赖项:

pip install -r requirements.txt

设置环境变量:

export OPENAI_API_KEY="your-key-here"
export ANTHROPIC_API_KEY="your-key-here"
export GOOGLE_API_KEY="your-key-here"
export OPENROUTER_API_KEY="your-key-here"
export OLLAMA_BASE_URL="http://localhost:11434"
export MCP_SERVER_URL="http://your-mcp-server"

运行应用程序:

python app.py

配置

环境变量

OPENAI_API_KEY：您的OpenAI API密钥
ANTHROPIC_API_KEY：您的Anthropic Claude API密钥
GOOGLE_API_KEY：您的Google AI API密钥
OPENROUTER_API_KEY：您的OpenRouter API密钥
OLLAMA_BASE_URL：Ollama服务器的URL（默认值：http://localhost:11434)
OLLAMA_KEEP_ALIVE：模型在内存中加载的时间（默认值：1h，示例：“5m”、“30m”、“1h”、“-1”表示从不卸载）
MCP_SERVER_URL：MCP HTTP SSE服务器的URL（旧版，可选）
MCP_AUTH_TOKEN：MCP服务器的承载令牌（传统，可选）
MCP_SERVERS：多个命名MCP服务器的JSON配置（见下文）
SYSTEM_PROMPT：AI助手的自定义系统提示（可选，默认：“你是一个有用的AI助手。”）

QA代理配置

QA_AGENT_ENABLED：启用/禁用QA代理响应验证（默认值：false）
QA_AGENT_MODEL：Ollama模型用于后续问题（默认：gpt-oss：最新）
QA_AGENT_MAX_RETRIES：如果响应缺少数据，则最大重试次数（默认值：1）

支持的型号

奥拉玛：可配置的型号列表（自动检测可用，但默认禁用）。默认型号包括：

骆驼4：最新
qwen3下一篇：最新（具有扩展推理的思维模型）
深寻编码器：33b
骆驼3：最新
吉玛书3:12b
腓3:14b
qwen3:8b
花岗岩4：最新
llama3.2：最新

开放人工智能 （默认情况下禁用，在代码中取消注释）：

gpt-4o
gpt-4o-mini
gpt-4涡轮增压器
gpt-3.5涡轮增压

克劳德:

克洛德·奥布斯-4-5-2251101
claude-haiku-4-5-20251001
claude-sonnet-4-5-20250929

谷歌（默认情况下禁用，在代码中取消注释）：

双子座-2.0闪光
双子座-1.5-pro
双子座-1.5-flash

开放路由 （默认情况下禁用，在代码中取消注释）：

人型/claude-3.5onnet
openai/gpt-4o
谷歌/双子座-2.0-flash-exp

API终点

获取 `/`

主聊天界面

获取 `/api/providers`

获取可用的提供商及其模型

获取 `/api/mcp/status`

检查MCP服务器连接状态

发布 `/api/chat`

发送聊天消息（流式SSE响应）

请求体:

{
  "messages": [{"role": "user", "content": "Hello"}],
  "provider": "ollama",
  "model": "llama2"
}

获取 `/api/mcp/tools`

获取可用的MCP工具

发布 `/api/mcp/call`

调用MCP工具

请求体:

{
  "tool": "tool_name",
  "arguments": {}
}

MCP集成

该应用程序支持通过HTTP SSE连接到多个命名的MCP（模型上下文协议）服务器。

单MCP服务器（旧版）

export MCP_SERVER_URL="https://your-mcp-server/mcp/"
export MCP_AUTH_TOKEN="your-bearer-token"

多个命名MCP服务器

使用JSON格式配置多个MCP服务器：

export MCP_SERVERS='{"huginn": {"url": "https://huginn.example.com/mcp/", "auth_token": "token1"}, "local": {"url": "http://localhost:8080/mcp/", "auth_token": ""}}'

或者在你的 .env 文件：

MCP_SERVERS={"huginn": {"url": "https://huginn.freakshowindustries.net/mcp/", "auth_token": "your-token"}, "local": {"url": "http://localhost:8080/mcp/", "auth_token": ""}}

MCP服务器配置格式

每个MCP服务器都需要：

名字：服务器的唯一标识符（用作密钥）
网址：HTTP SSE端点URL(必须以结尾 /)
auth_token：用于身份验证的可选承载令牌

UI将在标头中显示所有已配置服务器的连接状态。单击MCP状态栏展开并查看每个服务器的详细连接信息。

工具调用

该应用程序会自动从所有配置的MCP服务器中发现工具，并将其提供给AI模型。当模型决定使用工具时：

工具调用显示在橙色框中（单击展开详细信息）
该工具通过相应的MCP服务器执行
结果显示在绿色框中（单击展开详细信息）
对话继续，工具结果

备注：一些Olama模型（如DeepSeek）不支持工具调用。应用程序将自动重试，而不使用这些模型的工具。

QA代理

QA代理验证模型响应，并在响应缺乏具体数据时自动请求澄清。这对于确保数据查询实际返回数据而不是解释非常有用。

配置：

QA_AGENT_ENABLED=true
QA_AGENT_MODEL=gpt-oss:latest
QA_AGENT_MAX_RETRIES=1

它是如何工作的：

主模型响应后，QA Agent分析响应
如果响应缺少具体数据（数字、表格、实际值），则会触发后续操作
后续使用配置的QA模型请求特定数据
附加响应将附加到对话中

UI功能

统计栏

位于输入区域下方，显示实时查询统计信息：

状态：当前状态（空闲、思考、流媒体、完成）
时间：总运行时间
TTFT：第一个令牌的时间
代币：生成的令牌数量
速度：每秒令牌数

活动日志

位于侧边栏中，显示逐步进度：

🚀 查询已开始
🔌 连接到模型
🧠 模型思维/推理
📡 流媒体响应
🔧 工具调用
✅ 工具结果
🔍 QA代理操作
✓ 完成统计

Docker详细信息

端口: 5005
基本图像：python:3.11-slim
卷装载：安装应用程序代码，以便在开发过程中进行热重新加载

构建Docker镜像

docker build -t ai-web-chat .

使用Docker运行

docker run -p 5005:5005 \
  -e OPENAI_API_KEY="your-key" \
  -e ANTHROPIC_API_KEY="your-key" \
  ai-web-chat

发展

该应用程序使用Flask，并在开发模式下启用热重新加载。修改代码后，服务器将自动重新启动。

项目结构

AI-Web2/
├── app.py                 # Flask backend with API endpoints
├── templates/
│   └── index.html        # Frontend UI
├── Dockerfile            # Docker configuration
├── docker-compose.yml    # Docker Compose setup
├── requirements.txt      # Python dependencies
├── .env.example          # Example environment variables
└── README.md            # This file

故障排除

Ollama连接问题

如果在本地运行Olama，请使用 host.docker.internal:11434 而不是 localhost:11434 在Docker中运行时。

API密钥错误

确保在您的 .env 文件和文件位于同一目录中 docker-compose.yml.

MCP连接

验证您的MCP服务器是否正在运行，并且可以从Docker容器访问。检查UI标题中的状态指示器。

ROCm GPU问题（Fedora与AMD Radeon 8060S/gfx1151）

如果您在使用ROCm的Fedora上遇到某些大型型号（如deepseek-r1:70b）的GPU挂起问题：

安装缺少的libdrm库:

sudo dnf install -y libdrm libdrm-devel

推理过程中检查GPU温度:

watch -n 1 rocm-smi --showtemp

将ROCm更新到最新版本:

sudo dnf upgrade rocm-*

验证GPU架构支持:

rocminfo | grep "Marketing Name"
rocm-smi --showproductname

已知问题:

- deepseek-r1:70b：导致GPU挂在带有ROCm 6.4.2的gfx1151（Radeon 8060S）上 - 变通方案：使用替代模型，如 gpt-oss:120b, mixtral:8x22b，或 llama4:latest - 根本原因：新的RDNA 3.5架构可能存在ROCm驱动程序兼容性问题

检查Ollama日志中的GPU错误:

sudo journalctl -u ollama -f

如果GPU挂起持续存在，则模型可能会触发硬件异常。使用较小的量化或替代模型，直到gfx1151的ROCm支持得到改善。

许可证

MIT许可证-可根据需要自由使用和修改。

贡献

欢迎投稿！请随时提交问题或拉取请求。

目录标签

AI聊天多模型支持PythonClaude本地部署实时流式传输MCP协议工具调用问答代理

支持客户端

Claude

接入字段

传输方式（transport，传输协议）

stdio

鉴权方式（authType，认证方式）

token

工具数量（toolCount，工具数）

0

资源数量（resourceCount，资源数）

0

提示词数量（promptCount，提示词数）

0

权限和风险

stdiotoken部署方式未说明

接入前请确认传输方式、认证方式和部署位置，并根据实际工具能力限制访问范围。

安装前确认

不要直接授予不必要的文件、网络或账号权限；先核对安装命令和配置内容。

来源信息

MCP World

mcpworld.com

/detail/42d09be2e27906672a500a9cabe36628

一个支持多种AI模型提供商（Ollama、OpenAI、Google、OpenRouter和Claude）的简约网页聊天界面，具有实时流式传输和MCP协议支持。

继续浏览同类 MCP

更多AI代理 MCP（18,706）返回 MCP 目录

上一个 MCP

AI vpn MCP

AI驱动的VPN编排层，为AI代理提供自动化的VPN隧道管理、流量路由和连接监控功能。

下一个 MCP

AI Workflow Orchestrator Docs

一个轻量级的Spring Boot插件框架，用于编排复杂的AI工作流，集成多个LLM、工具和MCP服务，无需样板代码。

AI Web MCP