雪球帖子采集
将以下提示词粘贴到你的 AI 对话框中:
请根据 https://skillhub.cn/install/skillhub.md,安装 @user_7d9a592c/xueqiu-collector。
技能介绍
解决什么问题
雪球的内容分散在用户主页、帖子详情页和图片里:列表页通常只有摘要,正文、被引用的原文、点赞/评论/转发/阅读数据并不总能一次拿全;评论帖还要区分作者自己的话与引用内容。手动复制、整理和归档成本高,而一次性抓取又容易触发风控、漏掉历史帖子,或把非投资内容混入后续分析。
技能如何工作
xueqiu-collector 通过 scripts/collect.py 驱动浏览器访问目标作者主页,内置全量/增量判断:首次可完整采集,后续用 --refresh-list 只追新帖;对缺失正文的帖子再单独补采。采集结果写入 xueqiu_posts 表,同时保留 JSON 与 Markdown 输出。
核心能力包括:完整正文提取并转换为 Markdown;识别评论帖中的 own_text、quote_text、reply_to_post_id;下载帖子图片并可选 OCR;以及由 scripts/analyze.py 执行 V4 规则分析,输出帖子类型、投资相关性、情感、操作意图、主题标签、质量评分等字段。增量任务里,analyze.py --missing 只处理未分析记录,--batch 可做全量重分析。
适用边界与注意点
它适合有明确作者主页 URL、需要把雪球帖子沉淀为可查询语料或做规则化分析的工程任务,不适合绕过登录权限或批量攻击平台。运行依赖 playwright-cli、已登录的 Edge Profile、Python 3.10+ 和 SQLite;OCR 需 winocr/tesseract 等能力。反爬虫参数如 2–5 秒请求延迟、每 20 条休息 8–12 秒会显著拖慢大批量采集。评论帖格式、时间格式和含空格路径都有已知坑,需要按日志排查;是否触发平台风控也取决于运行环境与使用频率。
使用场景
- 研究特定雪球大V的投资逻辑时,需要将其历史帖子全量采集并提取正文,同时将评论帖中的引用原文与作者观点分离。
- 每日开盘前需要追踪关注博主的最新动态,利用增量采集模式仅抓取新增帖子,并通过规则分析提取其操作意图与情感倾向。
- 构建量化选股因子时,需将大量雪球帖子及配图批量下载,提取OCR文本并计算质量评分,最终导出为SQLite数据库供策略回测。
适合人员
- 股票研究员:希望系统化收集特定雪球博主的历史发言与操作记录,以归纳其投资风格与选股逻辑。
- 量化策略工程师:需要将非结构化的雪球帖子转化为带标签的结构化数据,用于训练情感或热度预测模型。
- 个人投资者:希望定期追踪几位重点关注的实战派大V最新动态,快速过滤无效信息并提炼核心交易意图。