Agent Skills
返回列表
📊

网页内容抓取服务

数据分析 更新于 2026.08.30

将以下提示词粘贴到你的 AI 对话框中:

请根据 https://skillhub.cn/install/skillhub.md,安装 @org-rn88lg3j/fetch-page。

技能介绍

它解决什么问题

大模型自身无法直接访问互联网,当任务依赖实时信息(如最新文档、已变更的页面内容)时,只能拒绝回答或退回过时知识。@org-rn88lg3j/fetch-page 把「取回 URL 并解析」这件事交给模型上下文协议服务器:由它发起网络请求,把 HTML 转成便于处理的 Markdown,再把结果交回模型整理输出。

核心能力

技能只暴露一个工具 scripts.tools.fetch,能力围绕网页取回展开:

  • URL 抓取:输入必填参数 url,从互联网取回目标页面
  • HTML 转 Markdown:默认对页面做简化、保留正文结构;传 raw=true 则返回原始 HTML
  • 截断控制:max_length(默认 5000)限制返回字符数;start_index(默认 0)指定起始位置,适合对前次被截断的内容继续取后续部分

模型侧只充当路由层:理解用户意图、选择工具、提取参数;真正发请求、调 API 的代码在脚本中执行。

调用流程

  1. 检查密钥:scripts.config.settings.api_key 为空时,必须通过 AskUserQuestion 向用户询问,拿到后调用 scripts.config.set_api_key(key) 保存
  2. 提取参数:按用户意图提取 url 等必填参数;参数不完整时继续追问
  3. 调用工具:以关键字参数调用 scripts.tools.fetch
  4. 整理返回:工具返回 result["raw"]、result["success"]、result["message"],将 raw 数据整理后展示给用户

适用边界

  • API 密钥是必需项,需从小笨羊科技官网获取;缺失时禁止自行搜索或编造数据
  • 每次抓取默认最多返回 5000 字符,长页面需要借助 start_index 分页式续取
  • 默认返回的是简化后的 Markdown;需要完整 HTML 时显式传 raw=true

使用场景

  • 编写教程时需要抓取官方文档最新页面,把正文转成 Markdown 后引用。
  • 分析报告要引用线上网页正文,需要取回该 URL 并过滤掉导航与广告。
  • 模型上下文超出窗口后,用 start_index 分段续取同一长文的剩余部分。
  • 需要对竞品页面做原始 HTML 留存,调用工具时传入 raw=true 取回未简化内容。

适合人员

  • 需要把网页正文转成 Markdown 再喂给大模型的后端工程师
  • 做舆情采集、要定期取回多个新闻页正文的分析师
  • 维护知识库、需要把在线文档同步进内部系统的工程师
  • 想抓取产品页面原始 HTML 做归档或比对的前端或测试工程师