LLM纸币系统
LLM笔记系统是一个简单的人工智能笔记管理应用程序,使用FastAPI和通过Ollama本地运行的大型语言模型(LLM)构建。
该项目演示了如何将本地LLM与后端API集成,以在不依赖任何云服务的情况下创建、存储和管理笔记。
特性
在本地创建和保存笔记
基于文件的持久存储
与当地LLM(Ollama)整合
使用FastAPI构建REST API
完全本地设置,不依赖云
以隐私为中心的架构
技术栈
后端:FastAPI
LLM运行时间:Ollama
语言:Python
服务器:Uvicorn
存储:本地文件系统
项目结构 mcp_note/ │ ├── 服务器.py ├── 客户端.py ├── 注意事项/ └── README.md 安装与设置
- 克隆存储库
克隆https://github.com/your-username/local-llm-note-system.git cd本地llm音符系统
- 创建虚拟环境
python-m venv-venv venv\\Scripts\\activate
- 再进行
pip安装fastapi uvicorn媒染剂
如果使用Olama客户端:
pip安装ollama 4.安装并运行Olama
从Ollama的官方网站安装Ollama。
拉一个模型(示例):
Ollama拉动通话2
启动服务器之前,请确保Ollama正在运行。
- 运行FastAPI服务器
uvicorn服务器:应用程序--reload
服务器运行时间:
http://127.0.0.1:8000 6.运行客户端
打开一个新终端并运行:
python客户端.py 运作原理
客户端向FastAPI服务器发送HTTP POST请求。
服务器处理请求并在本地存储注释。
如果需要人工智能处理,则将请求发送给Ollama。
响应将返回给客户端。
注释保存在Notes/目录中。
