💬 LiveKit RAG助手v2.0
企业级AI语义搜索+LiveKit文档的实时web集成
🎯 特性
- 双重搜索：松果文档（3000+矢量）+Tavily实时网络
- 标准MCP：具有模型上下文协议的异步语言链
- 超快的：Groq LLM（骆驼-3.3-70b）的5秒以下反应
- 高级用户界面：具有60多个动画的Glassmorphism设计
- 消息来源：每个答案都完全透明
🚀 快速开始
# Setup
conda create -n langmcp python=3.12
conda activate langmcp
pip install -r requirements.txt
# Configure .env
GROQ_API_KEY=your_key
TAVILY_API_KEY=your_key
PINECONE_API_KEY=your_key
PINECONE_INDEX_NAME=livekit-docs
# Terminal 1: Start MCP Server
python mcp_server_standard.py
# Terminal 2: Start UI
streamlit run app.py应用程序打开时间 http://localhost:8501
🏗️ 建筑
Streamlit (app.py) → MCP Server → Dual Search:
├─ Pinecone: Semantic search on embeddings (384-dim)
└─ Tavily: Real-time web results
↓
Groq LLM (2048 tokens, temp 0.3) → Response + Sources🔧 技术栈
| 层 | 技术 | 目的 |
|---|---|---|
| 前端 | 流光 | 高级玻璃形态UI |
| 后端 | MCP标准 | 异步子流程 |
| LLM | Groq API | 超高速推理 |
| 嵌入 | 拥抱脸 | 全MiniLM-L6-v2（384昏暗） |
| 矢量数据库 | 松果 | 无服务器相似性搜索 |
| 网络搜索 | Tavily | 实时互联网结果 |
📚 用法
- 选择模式： 📚 文档 或 � Web
- 自然地问：“如何设置LiveKit？”
- 立即获得答案📄 来源
- 复制消息或从历史记录中重新询问
⚡ 演出
- 第一次查询：~15-20s（模型加载）
- 缓存查询：2-5s
- 搜索延迟：\<500ms
🛠️ 配置
GROQ_API_KEY=gsk_***
TAVILY_API_KEY=tvly_***
PINECONE_API_KEY=***
PINECONE_INDEX_NAME=livekit-docs🔄 填充文档
python ingest_docs_quick.py # Creates 3,000+ vector chunks📊 文件
app.py-流线型UI，高级设计mcp_server_standard.py-带工具的MCP服务器ingest_docs_quick.py-文档摄取requirements.txt-依赖关系.env-API密钥
🚨 故障排除
| 问题 | 解决方案 |
|---|---|
| 没有结果 | 尝试网络模式或其他关键字 |
| 未找到MCP | 在终端1中启动MCP_server_standard.py |
| 首次响应缓慢 | 正常（15-20s）-模型初始化一次 |
| API错误 | 验证.env文件中的所有密钥 |
� 特性
✅ 实时聊天，60多个动画 ✅ 语义+关键字混合搜索 ✅ 复制到剪贴板以保存邮件 ✅ 最近的查询建议 ✅ 系统状态仪表板 ✅ 聊天记录持久化 ✅ 查询验证+错误处理
______________________________________________________________________
版本: 2.0 | 状态: ✅ 生产就绪| 创建：2025年11月
👨💻 由 @德纳比曼 | � 开源 | ❤️ 面向开发者