iwencai-data-extractor（文采数据提取器）

同花顺问财数据提取器

环境配置

使用前确认以下路径（可从用户记忆或直接询问）：

启动 Chrome 调试模式（用户须手动执行一次）：

chrome.exe --remote-debugging-port=9222 --user-data-dir=C:\ChromeDebug

然后在 Chrome 中手动导航到 https://www.iwencai.com/unifiedwh/stockpicker/（AI选股页面）。

核心工作流

单日 / 批量爬取

使用 scripts/crawl.py，修改顶部配置后运行：

# Windows PowerShell/cmd，用 cmd /c 规避编码问题
cmd /c python D:\workbuddyclaw\iwencai_data\crawl.py

脚本关键参数（脚本顶部修改）：

• TRADE_DAYS：要爬取的日期列表（ISO格式 YYYY-MM-DD）
• AGENT：agent-browser 路径
• DB_PATH：SQLite 数据库路径

导出 Excel 报告

使用 scripts/export_excel.py，生成包含5个Sheet的汇总报告：

cmd /c python D:\workbuddyclaw\iwencai_data\export_excel.py

关键技术细节（必读）

agent-browser 调用规范

# 正确：不要加 --timeout 参数（子命令不支持，会报 Unknown command）
cmd = [AGENT, "--cdp", "9222"] + list(args)

# eval 输出是双层 JSON 包裹，需双层解析
raw = ab("eval", js)
step1 = json.loads(raw)
result = json.loads(step1) if isinstance(step1, str) else step1

搜索框定位

snapshot 中搜索框类型为 textbox，带 "筛选条件" 提示文字：

for line in snap.split('\
'):
    if 'textbox' in line.lower() and 'ref=' in line:
        if '筛选条件' in line or '请输入您的' in line:
            m = re.search(r'ref=(e\d+)', line)
            if m:
                search_ref = m.group(1)
                break

分页翻页（Vue.js 兼容）

普通 click() 无效，必须用 dispatchEvent 触发 Vue 响应式事件：

// 分页 class 是 .page-item（不是 .iw-asidetable-page-item）
var items = document.querySelectorAll('.page-item');
// 找到目标页码元素后：
var evt = new MouseEvent('click', {bubbles: true, cancelable: true, view: window});
a.dispatchEvent(evt);

Windows 编码

所有 Python 脚本顶部加：

import sys, io
sys.stdout = io.TextIOWrapper(sys.stdout.buffer, encoding='utf-8', errors='replace')
sys.stderr = io.TextIOWrapper(sys.stderr.buffer, encoding='utf-8', errors='replace')

运行脚本用 cmd /c python script.py（不用 PowerShell 直接调用）。

数据库结构

表名：zt_stocks

参考文档

• 爬取脚本完整实现：见 references/crawl_reference.md
• 常见问题排查：见 references/troubleshooting.md