剧作家+骆驼CPP+LiquidAI
使用本地LLM后端对模型上下文协议(MCP)进行实验的项目。此设置连接LLM(通过 llama-server)Playwright MCP提供的浏览器自动化工具。
特性
- 本地LLM后端:用途
llama.cppsllama-server用于与OpenAI兼容的API。 - MCP集成:连接到
@playwright/mcp以允许LLM控制浏览器。 - 工具调用:演示如何将MCP工具转换为OpenAI工具格式,以供本地LLM使用。
先决条件
- (建议使用v18或更高版本)
- llama.cpp (特别是
llama-server二进制) - 以下模型文件:
lfm2.5-1.2b-instruct-q4_k_m.gguf
设置和运行
1.启动Llama服务器
跑吧 llama-server 使用指定的模型在上提供与OpenAI兼容的API http://localhost:8080:
./llama-server -m lfm2.5-1.2b-instruct-q4_k_m.gguf2.安装依赖项
在单独的终端中,安装项目依赖项:
npm install3.运行应用程序
执行主脚本:
node app.js原理
- MCP连接:该应用程序使用以下方式连接到Playwright MCP服务器
npx @playwright/mcp@latest. - 工具映射:它从MCP服务器获取可用工具,并将其映射到OpenAI SDK所期望的格式。
- OpenAI客户端:它配置了一个
OpenAI客户端指向本地llama-server. - 执行循环LLM收到提示,决定调用哪些浏览器工具,应用程序通过MCP客户端执行这些工具,将结果反馈给LLM以获得最终响应。
