一个MCP风格的LangChain + Ollama Python项目,其功能包括:
完全免费且本地运行
通过Flask API接受MCP风格的{操作,参数}
通过Ollama访问本地大型语言模型(LLM)以获取答案的路径
文件:
app.py ← Flask API(MCP风格服务器)
│
根据上面的信息,执行如下指令:
├── mcp_agent.py ← LangChain 逻辑:解释动作 -> LangChain 代理
├── requirements.txt ← Python 依赖项
└── README.md ← 项目概述
基于MCP的LangChain服务器
LangChain代理接收到正确的操作
它使用了你的逻辑(来自mcp_agent.py)来执行它
它向Postman返回了正确的时间
下一步: 使用其他动作值进行测试
在 mcp_agent.py 中添加新功能
或者将其与前端集成
添加更多智能任务或将其与用户界面连接!
Llama模型
访问 https://ollama.com/library 进行探索
对于小型项目 -> 使用 pip 和 requirements.txt 文件,PyCharm 集成开发环境 (IDE)
对于现在的大型项目,-> 尝试使用 uv + ruff。这是一个非常适合未来Python开发的设置。试试Zed IDE吧。
Ruff 是一个为 Python 生态系统编写的高性能代码检查器和格式化工具,用 Rust 语言开发。
https://docs.astral.sh/uv/guides/scripts/#creating-a-python-script 翻译为中文是:https://docs.astral.sh/uv/guides/scripts/#创建Python脚本
uv init
uv add ...运行 gemma:2b
运行 Ollama 的 Gemma 模型:2B 版本
Gemma:2b 仅使用约 2–3 GB 内存。
运行Mistral(注:Mistral可能指的是一种模型、软件或系统名称,具体含义需根据上下文确定)
Ollama 运行 Mistral 模型
Mistral 仅需约 4 GB 内存,且在执行一般任务时表现相当出色。
运行 llama3
ollama 运行 llama3
Ollama 在您的机器上完全以内存方式运行像 llama3 这样的模型。
尽管已经进行了优化,LLaMA 3 仍然需要至少约 6 GB 的可用内存,理想情况下需要更多(建议总系统内存为 8–12 GB)。
列出已下载的模型:
ollama 列表
拉动其他模型:
使用 Ollama 拉取 Mistral 模型
使用 Ollama 拉取 CodeLlama 模型
停止运行模型:
Ollama 停止
启动您的MCP服务器:
运行 Python 脚本 app.py
您需要安装带有社区模块的最新LangChain,具体为:
使用 pip 安装 langchain-community
建议完整安装设置(为安全起见):
如果你在使用LangChain与Ollama,最好确保以下内容已安装:
使用pip安装langchain、langchain-community、langchain-core和langchainhub
使用pip安装ollama
Gemma:2b,Llama3有截止日期
静态知识:这些模型是基于截至某一时点(例如,对许多模型而言是2023年年中)的数据进行训练的。
他们对训练截止日期之后发生的事情一无所知。
想在LangChain/Ollama环境中获取真实新闻吗?
你可以将本地模型与以下内容结合使用:
RAG(检索增强生成),通过API(如NewsAPI或Google News)获取实时新闻,
然后将这些信息作为上下文传递给大型语言模型(LLM),以便其基于这些信息进行总结或回答。
使用本地Ollama模型实现LangChain与新闻API的集成。
