网页内容抓取服务
将以下提示词粘贴到你的 AI 对话框中:
请根据 https://skillhub.cn/install/skillhub.md,安装 @org-rn88lg3j/fetch-page。
技能介绍
它解决什么问题
大模型自身无法直接访问互联网,当任务依赖实时信息(如最新文档、已变更的页面内容)时,只能拒绝回答或退回过时知识。@org-rn88lg3j/fetch-page 把「取回 URL 并解析」这件事交给模型上下文协议服务器:由它发起网络请求,把 HTML 转成便于处理的 Markdown,再把结果交回模型整理输出。
核心能力
技能只暴露一个工具 scripts.tools.fetch,能力围绕网页取回展开:
- URL 抓取:输入必填参数
url,从互联网取回目标页面 - HTML 转 Markdown:默认对页面做简化、保留正文结构;传
raw=true则返回原始 HTML - 截断控制:
max_length(默认 5000)限制返回字符数;start_index(默认 0)指定起始位置,适合对前次被截断的内容继续取后续部分
模型侧只充当路由层:理解用户意图、选择工具、提取参数;真正发请求、调 API 的代码在脚本中执行。
调用流程
- 检查密钥:
scripts.config.settings.api_key为空时,必须通过AskUserQuestion向用户询问,拿到后调用scripts.config.set_api_key(key)保存 - 提取参数:按用户意图提取
url等必填参数;参数不完整时继续追问 - 调用工具:以关键字参数调用
scripts.tools.fetch - 整理返回:工具返回
result["raw"]、result["success"]、result["message"],将 raw 数据整理后展示给用户
适用边界
- API 密钥是必需项,需从小笨羊科技官网获取;缺失时禁止自行搜索或编造数据
- 每次抓取默认最多返回 5000 字符,长页面需要借助
start_index分页式续取 - 默认返回的是简化后的 Markdown;需要完整 HTML 时显式传
raw=true
使用场景
- 编写教程时需要抓取官方文档最新页面,把正文转成 Markdown 后引用。
- 分析报告要引用线上网页正文,需要取回该 URL 并过滤掉导航与广告。
- 模型上下文超出窗口后,用 start_index 分段续取同一长文的剩余部分。
- 需要对竞品页面做原始 HTML 留存,调用工具时传入 raw=true 取回未简化内容。
适合人员
- 需要把网页正文转成 Markdown 再喂给大模型的后端工程师
- 做舆情采集、要定期取回多个新闻页正文的分析师
- 维护知识库、需要把在线文档同步进内部系统的工程师
- 想抓取产品页面原始 HTML 做归档或比对的前端或测试工程师