带亮数据MCP的多关键字SERP刮刀
  
Make.com自动化,使用Bright Data MCP抓取多个关键字的有机搜索引擎结果,内置重试逻辑、验证码检测和谷歌表格输出。
它的作用
- 在一次运行中从Google、Bing或Yandex中抓取多个关键字的自然SERP结果
- 为每个结果提取排名、标题、URL和域
- 抓取失败时自动处理重试(3秒延迟+重试)
- 检测验证码/阻塞并路由到错误处理
- 将标准化结果保存到带有完整元数据的Google表格中
运作原理
Input Keywords --> Iterate Each Keyword --> Bright Data MCP SERP Fetch
--> Parse JSON --> Router:
|-- Has Results --> Iterate --> Normalize --> Google Sheets
|-- Empty Results --> Log Warning
+-- CAPTCHA Detected --> Log Error该场景使用关键字数组作为输入。对于每个关键字,它调用Bright Data MCP search_engine 获取有机结果的工具。结果被解析,通过三路路由器验证,并保存到谷歌表格中。错误处理包括带延迟的自动重试和回退错误记录。
输入变量
| 变量 | 默认值 | 描述 |
|---|---|---|
keyword | ["best running shoes", "nike air zoom", "adidas ultraboost"] | JSON搜索关键字数组 |
domain | google.com | 搜索引擎域名 |
num_results | 5 | 每个关键字的自然结果数 |
country | United States | 搜索结果的目标国家 |
输出模式
| 列 | 类型 | 描述 |
|---|---|---|
| 查询 | 文本 | 使用的搜索关键字 |
| 引擎 | 文本 | 搜索引擎域(例如google.com) |
| 排名 | 数量 | 在有机结果中的位置 |
| 标题 | 文本 | 结果页面标题 |
| URL | 文本 | 结果页URL |
| 域 | 文本 | 结果域名 |
| 来源 | text | 数据源标识符(brightdata_mcp) |
| 报废时间 | 日期时间 | 收集数据的时间戳 |
先决条件
快速开始
错误处理
- 重试逻辑:如果初始MCP呼叫失败,则等待3秒并重试。如果重试失败,则等待3秒以上,然后记录回退错误以及错误类型、消息和时间戳。
- 无效的JSON:如果无法解析MCP响应,则使用原始响应捕获错误以进行调试。
- 空结果:当没有找到有机结果时,会记录带有查询详细信息的结构化警告。
- 验证码/封锁:检测“验证码”、“异常流量”、“验证你是人”、“拒绝访问”、“阻止”等模式,并记录下来。
让它成为你自己的
这个蓝图是 柔性积木,而不是刚性模板。它的每一部分——提示、数据结构、输出目标和逻辑——都是可以调整的。按原样使用它进行SERP刮擦,或将其重塑为完全不同的东西。
调整MCP提示
MCP提示是魔法发生的地方。它告诉Bright Data要刮什么以及如何构建响应。您可以重写它以提取完全不同的数据:
- 提取不同字段:添加
snippet,date_published,image_url,或页面上可见的任何其他数据 - 更改输出格式:请求嵌套JSON、markdown表或平面列表
- 添加说明:告诉MCP“忽略赞助结果”、“仅返回.edu域名的结果”或“将标题翻译成英文”
- 删除不同的页面MCP不仅限于搜索引擎。将其指向任何网页,并描述您想要提取的内容
交换数据源
输入不一定是谷歌的关键字。您可以用以下内容替换输入模块:
- 一个webhook 从另一个系统接收关键字
- 谷歌表格进纸器 从电子表格中读取URL或关键字
- RSS订阅源 这会在发布新内容时触发抓取
- 调度程序 在不同的日子里运行不同的关键字
更改输出
谷歌表格只是一种选择。将输出模块替换为:
- 气垫桌 使用视图和过滤器创建更丰富的数据库
- 概念 用于团队可访问的仪表板
- 一个webhook 将数据发送到您自己的API或数据库
- Slack/电子邮件 用于在出现特定结果时进行实时通知
- CSV/JSON文件 通过Google Drive进行批量数据处理
扩展逻辑
路由器、聚合器和错误处理模块都是您可以重新排列的构建块:
- 添加筛选器:仅保存来自特定域或标题中包含某些关键字的结果
- 添加评分:在保存之前,使用第二次MCP调用对结果进行评估或排名
- 连锁场景:此场景的输出可能会触发另一个Make.com场景
- 添加重复数据删除:将新结果与现有表格数据进行比较,以避免重复
- 计划运行:将场景设置为每小时/每天运行一次,以进行持续监控
示例:将其转化为品牌提及跟踪器
- 将关键字更改为您的品牌名称和竞争对手
- 调整MCP提示以提取:
title,url,snippet,sentiment - 添加一个过滤器,只保留提及您品牌的结果
- 用Slack替换Google表格以获得即时提醒
蓝图处理硬部分(MCP连接、重试、验证码检测、JSON解析、错误处理)。你只需改变输入和输出的内容。
文档
许可证
麻省理工学院
