🧠 自托管的AI驱动知识堆栈
已准备好投入生产的, 自托管的人工智能知识平台 整合;融合 黑曜石, AnythingLLM, Ollama(注:Ollama是一个开源的机器学习框架,用于训练和部署机器学习模型,但直接翻译其名称并无固定含义,此处保留原名),和 MCP代理 为了实现智能笔记增强、检索增强生成(RAG)、网页搜索和上下文感知的人工智能功能,所有这些功能均完全本地化且保护隐私。
______________________________________________________________________
⚙️ 概述
这个系统是一个正在运行的实时部署系统,运行在 Unraid(注:Unraid是一个用于网络附加存储(NAS)的开源操作系统,此处直接保留原名,不进行意译)设计用于使我的Obsidian知识库具备AI交互功能。\ AnythingLLM 作为集中式的人工智能前端,负责协调代理和大型语言模型(LLM)的响应。\ Ollama(注:Ollama是一个用于本地运行和管理大型语言模型的工具,此处直接音译,若需具体功能或背景介绍,则需额外说明) 提供基于开源模型的本地推理服务,确保数据永不离开服务器。\ 通过 MCP代理AnythingLLM可直接连接至Obsidian和网络,以智能方式增强、总结和链接知识。
______________________________________________________________________
🧰 技术栈
- Unraid(一种网络附加存储(NAS)操作系统) — 主机与Docker编排
- Obsidian(Docker化) — 中央Markdown知识库
- AnythingLLM — AI编排与前端界面
- Ollama(注:Ollama是一个用于本地运行大型语言模型的工具或框架的名称,直接翻译可能无具体含义,故在此保留原英文名称) — 本地LLM运行时(离线模型服务)
- MCP 服务器/代理 — 连接AnythingLLM到Obsidian、网络工具和RAG工作流的桥梁
______________________________________________________________________
🔍 主要特点
- 完全地 作战部署 在Unraid上集成Obsidian、AnythingLLM和Ollama
- Obsidian MCP 服务器 集成功能,支持通过人工智能驱动的笔记访问、总结和增强
- 已配置 网页搜索, 网络爬虫(或网页抓取),和 RAG工作流程 将实时数据与内部备注合并
- 自动化 语义链接 并且 结构化文档 使用本地大语言模型(LLM)处理
- 设计之初即注重隐私: 所有操作和模型推理均在本地进行,无需依赖第三方
______________________________________________________________________
🏗 架构概述
用户设备(浏览器/移动设备)\ │\ ▼\ AnythingLLM(用户界面与代理协调器)\ │\ ▼\ MCP 代理 ↔ 黑曜石保险库(搜索、阅读、增强)\ │\ ▼\ Ollama(本地大型语言模型推理)\ │\ ▼\ 网络搜索/抓取工具 → RAG上下文集成
- 通过(某种方式)注册的MCP服务器
anythingllm_mcp_servers.json - AnythingLLM 在需要时自动启动 MCP 服务
- Ollama 在本地托管和管理开源模型,以实现离线AI能力
______________________________________________________________________
🔐 安全与隐私
- 完全自给自足于其中 本地Unraid基础设施
- 通过(某种方式)接入的路由 身份与访问管理(IAM)套件:
- Authentik(注:这是一个品牌或公司名称,直接翻译可能无法准确传达其含义,因此保留原样) 用于集中认证 - “Vaultwarden”可以翻译为“守门人”或“守护者”(具体翻译可能根据上下文有所调整,以准确传达原词的含义)。在游戏或特定语境中,它可能指的是负责守护某个区域、宝库或重要位置的角色或机制 用于凭证 - 2FAuth(双重身份验证) 用于TOTP多因素认证(MFA) - Nginx 反向代理 和;与;带着 Cloudflare DNS 并且 通配符SSL
- 远程管理 通过Tailscale VPN(基于WireGuard),SSH访问已禁用
______________________________________________________________________
🔧 部署说明
- 所有通过(某种方式)部署的容器 在Unraid上使用Docker
- 为持久数据映射的卷(Obsidian 密室、大型语言模型、日志)
- 配置有自定义MCP服务器JSON条目的AnythingLLM
- Ollama运行多个本地大型语言模型(例如,Mistral、Llama3、Phi3)
- 使用IAM Suite配置的反向代理,用于安全地访问子域链接)
______________________________________________________________________
🚀 应用场景
- 本地人工智能辅助研究、写作和笔记整理
- 基于RAG的个人文档上下文搜索
- 家庭实验室部署展示本地大语言模型(LLM)+自动化集成
- 私有AI工作区,用户对数据和访问权限拥有完全控制权
______________________________________________________________________
📦 许可证
经授权,根据 麻省理工学院许可证 — 请随意根据此设置进行调整或在此基础上进行扩展。
______________________________________________________________________
🏷️ 标签
ai • self-hosted • knowledge-management • obsidian • anythingllm • ollama • mcp • rag • docker • privacy • homelab • llm • unraid
