演员运行器
将以下提示词粘贴到你的 AI 对话框中:
请根据 https://skillhub.cn/install/skillhub.md,安装 @user_3c6cb52e/apify-actor-runner。
技能介绍
解决什么问题
分布式爬虫任务通常运行在云平台上,执行完毕后结果数据需要从平台侧导出。人工值守任务运行状态、反复检查任务是否结束、手动拉取结果,这些操作在批量任务场景下会变成明显的效率瓶颈。同时,当多个工程师向同一个 Actor 提交不同参数时,参数格式不统一很容易引发运行时错误,导致任务失败后需要重新排队执行,排查成本随任务数量线性上升。
核心能力
这个技能围绕 Apify 云演员执行 这一场景,将跑批、校验、导出、通知串成一条链路:
- 结构化爬取执行:将爬取逻辑封装为 Apify Actors 后在云端运行,充分利用平台的并发调度与资源管理能力,无需自建爬虫服务器。
- 输入模式验证:任务启动前对传入的
input参数做 schema 校验,参数不合法时任务不会执行,避免无效运行浪费云资源额度。 - S3 自动导出:运行完成后,结构化数据集自动写入指定的 S3 存储桶,下游数据管道可直接消费,省去中转下载环节。
- Webhook 完成通知:任务结束时通过 webhook 推送完成事件,调用方可在回调里触发后续流程,例如生成报表、更新数据看板或通知相关同学。
典型的工作流程是:调用方提交输入 → schema 校验通过 → Actor 在云端执行爬取 → 数据集导出至 S3 → webhook 回调通知完成状态。
适用边界
- 依赖 Apify 云平台账号与服务额度,本地环境无法直接运行云端 Actor,离线场景不适用。
- S3 导出需要配置正确的存储桶权限与区域 endpoint,权限不足会导致导出静默失败。
- Webhook 通知要求回调地址公网可达,内网部署的服务需要额外的代理或隧道方案。
- 输入 schema 需要开发者自行定义和维护,schema 过于宽松会让校验形同虚设,建议在项目初期就收紧字段约束。
使用场景
- 运营团队需批量爬取多个电商网站的商品价格,跑完 Apify 演员后结果直接存 S3,方便后续用 SQL 分析
- 后端工程师提交 Actor 前要校验参数格式,避免参数写错导致任务白跑浪费云资源
- 数据团队的爬虫任务结束后,需要 webhook 自动通知下游服务拉取 S3 数据,省去人工盯结果
- 分析师每次跑完爬取任务都要手动下载数据,现在通过 S3 导出直接对接数据管道,不用中转下载
适合人员
- 爬虫工程师需要批量执行 Apify 演员并自动导出结果到 S3,减少手动操作
- 后端开发工程师要为 Actor 提交参数做 schema 校验,避免无效运行
- 数据管道工程师需通过 webhook 触发 S3 数据消费,搭建自动化流程
- 数据分析团队的运营人员要批量爬取网站数据,希望结果直接存 S3 方便后续分析