本地LLM和Continue.dev开发栈
该存储库提供了设置完全本地AI配对编程工作流程所需的一切,而无需为Copilot、Gemini或Claude付费。它扩展了现有的项目以进行配置 奥拉玛, Continue.dev,以及一套精心策划的 模型上下文协议(MCP)服务器 在Windows、macOS和Ubuntu上。您将找到一篇详细的博客文章、分步环境设置说明、安装依赖项和MCP服务器的脚本、Docker Compose配置以及一个实践概念验证项目。
入门
最快的起床和跑步方式取决于你的平台。完整说明已上线 docs/environment-setup.md,但以下是简短版本:
| 操作系统 | 快速启动 |
|---|---|
| Windows 11 | 快跑 ./scripts/bootstrap-windows.ps1 来自PowerShell。这将安装Docker Desktop、Git、VS Code、Node.js、Python和Ollama。然后运行 ./scripts/install-mcps-windows.ps1 安装可选的MCP服务器。 |
| macOS | 快跑 bash ./scripts/bootstrap-macos.sh。这使用Homebrew安装Git、Docker、VS Code、Node.js、Python和Ollama。然后运行 bash ./scripts/install-mcps-macos.sh 对于MCP服务器。 |
| Ubuntu/Debian | 快跑 bash ./scripts/bootstrap-linux.sh 通过以下方式安装Git、Docker引擎、VS Code、Node.js、Python和Ollama apt。然后跑 bash ./scripts/install-mcps-ubuntu.sh 对于MCP服务器。 |
基础环境准备就绪后:
- 在Ollama中拉一个模型,例如。
ollama pull nemotron-9b(推荐型号见博客)。 - 启动推荐的MCP服务器
docker compose -f docker/docker-compose.mcp.yaml up -d. - 复制
.continue/config.example.json到~/.continue/config.json并编辑端点以匹配您的环境(请参阅文档)。 - 在以下位置打开此文件夹 Visual Studio代码,确保 继续 扩展程序已安装,并开始使用本地AI进行编码!
此存储库中有什么
- blog-post.md –一篇题为 *“开发人员正在放弃gemini-cli、副驾驶和claude-cli,转而使用这种更强大的替代方案,无需支付月费”*它解释了为什么对于许多开发人员来说,本地堆栈优于付费工具,并介绍了架构、设置和工作流程。
- prompt-used.md –用于生成此存储库的整个提示的副本(为了可重复性)。
- docs/ –详细文件:
- environment-setup.md –跨平台安装和配置指南。 - maintenance-and-upgrades.md –如何保持工具、模型和MCP服务器的更新。 - mcp-servers-guide.md –推荐的MCP服务器和示例提示的描述。 - poc-demo.md –概念验证项目的演练。
- .继续/ –示例继续配置文件和每个代理MCP服务器列表。
- 脚本/ –每个操作系统的引导和MCP安装脚本。
- docker/ Docker Compose文件用于启动本地MCP服务器。
- 示例/ –一个小型演示项目,展示本地LLM+MCP堆栈的强大功能。
- .devcontainer/ (可选)–一键式VS代码设置的devcontainer配置。
- 生成文件 –设置和启动MCP服务器的便捷任务。
使用MCP服务器(免费高级用户堆栈)为Continue.dev充电
此存储库包含 模型上下文协议(MCP) 赋予你的AI助手超能力。MCP服务器通过简单的JSON API公开额外的上下文——文件、网页、数据库、git历史记录等。通过在本地运行这些服务器,您可以继续执行通常需要付费云服务的任务。
下面是一些关键服务器的摘要。看 docs/mcp-servers-guide.md 有关完整说明、提示和安装说明。
| MCP服务器 | 它做什么 | 示例提示 |
|---|---|---|
| 获取 | 获取并将网页转换为markdown | “获取Django ORM文档并总结查询API。” |
| 文件系统 | 读/写项目文件,启用多文件重构 | “在整个仓库中搜索TODO注释。” |
| Git | 通过MCP查看Git状态、差异、提交和分支 | “显示当前分支的差异并总结更改。” |
| X光线 | 基于AST的代码深度分析 | “映射所有调用者 saveUser.” |
| GitHub | 与GitHub问题/PR交互 | “总结标记为‘bug’的未解决问题。” |
| 剧作家 | 用于抓取或UI流的无头浏览器 | “打开我的本地网站并提取登录页面标题。” |
| 数据库(SQLite) | 查询本地SQLite数据库 | “列出 dev.db.” |
| 一切搜索 | 仅限Windows的快速文件搜索 | “查找全部 .env 驱动器C上的文件。” |
| Snyk&Sentry | 安全扫描和错误监控 | “扫描我的依赖项以查找漏洞”/“获取生产中的最后一个错误。” |
| 文档/API搜索 | 通用文档跨多个源搜索 | “在Python请求文档中搜索超时使用情况。” |
| Oxylabs | 启用代理的网站抓取 | “抓取最新的Flask发行说明并总结更改。” |
| 背景7 | 直接从官方来源检索最新文档 | “使用Context7获取最新的FastAPI认证文档并对其进行摘要。” |
| 顺序思维 | 帮助模型分解任务并保持其思维链 | “按逻辑步骤规划从SQLite到PostgreSQL的迁移。” |
特定于操作系统的安装说明
大多数MCP服务器都是通过Docker镜像或npm包分发的。我们的 安装脚本 (scripts/install-mcps-windows.ps1, install-mcps-macos.sh, install-mcps-ubuntu.sh)跨平台自动化安装:
- Windows 11: 使用PowerShell
winget和npm.安装Node.js、Python、Docker和每个MCP服务器。指示用户设置环境变量(GITHUB_TOKEN,SNYK_TOKEN,SENTRY_AUTH_TOKEN等等)用于需要证书的服务器。 - macOS: 使用自制和
npm.安装Node.js、Python和MCP包。下载Playwright的浏览器二进制文件。 - Ubuntu/Debian: 用途
apt和npm。安装依赖项并全局安装MCP服务器。将当前用户添加到docker组,这样Docker就可以在没有组的情况下运行sudo.
安装后,使用以下命令启动服务器 docker compose -f docker/docker-compose.mcp.yaml up -d 或者让Continue按需启动它们。更新您的 ~/.continue/config.json 指向包含这些服务器的YAML或JSON配置文件。
查看博客文章和文档,了解为什么这个堆栈可能比专有AI助手更适合你。所有设置步骤都是可添加的,因此此项目早期版本的现有用户可以在不丢失任何功能的情况下进行更新。
