SiteOne 爬虫技术 SEO 与网站审计
将以下提示词粘贴到你的 AI 对话框中:
请根据 https://skillhub.cn/install/skillhub.md,安装 @user_3c6cb52e/siteone-crawler-technical-seo-and-site-audit。
技能介绍
解决大规模站点诊断的碎片化问题
在复杂网站的维护中,开发团队常面临多个维度的技术债务:深层页面潜藏的 404 错误、错误的重定向链路、缺失的图片 Alt 属性,以及未修复的 SSL 证书过期等问题。这些隐患不仅会阻碍搜索引擎的正确索引,还会直接影响真实用户的加载体验与可访问性。传统的人工排查或基于 PHP 的旧版爬虫往往受限于执行速度和资源开销,难以在可接受的时间内完成全站深度扫描,导致诊断报告滞后,修复队列难以建立。
技能的工作机制与核心能力
该技能基于上游 SiteOne Crawler 项目重构,完全使用 Rust 编写。其核心逻辑是把庞大、耗时的站点爬取任务转化为结构化、可执行的诊断数据流。工作流程主要分为以下三个关键步骤:
- 深度资源遍历:不再是简单的链接抓取,而是深入分析每一个页面及其关联的静态资产。引擎会模拟真实的访问路径,覆盖多级目录和复杂的重定向网络。
- 多维度规则检测:在爬取过程中同步执行技术 SEO 检查(如死链、Meta 标签)、可访问性(A11y)标准验证,以及基础的安全与性能指标监测。
- 产物导出与修复队列生成:扫描完成后,系统会生成标准化的报告文件和
sitemaps。更重要的是,它会将识别到的错误进行归类,自动形成一份可执行的 remediation queue(修复队列),让开发团队能直接着手解决问题,而不是停留在分析数据阶段。
适用边界与部署注意点
- 环境依赖较新:为了发挥 Rust 重写后的原生性能,该项目对系统底层库有较高要求。
glibc版本必须达到 2.39 或更高(如 Ubuntu 24.04、Debian 13、Fedora 40),且编译环境需配备 Rust 1.85+。 - 特定功能配置:如果需要使用邮件摘要(email summaries)功能将报告定时推送给团队,必须额外配置 SMTP 认证参数,并确保运行环境具备对应的出网发送权限。
使用场景
- 接手大型项目重构时,需要扫描全站死链并生成修复队列。
- 排查复杂重定向链路时,需用Rust编写的深度爬虫验证真实跳转关系。
- 需要自动生成sitemaps并配置SMTP接收审计结果邮件的技术团队。
- 性能优化前,需对多层级页面的静态资产进行零依赖的全站性能摸底。
适合人员
- 负责大型站点重构的前端工程师,希望在部署前确认死链和Meta缺失。
- 主攻搜索引擎优化的技术人员,需要定期验证重定向链路和可访问性。
- 负责性能优化的后端开发者,希望获取低资源消耗的全站资产诊断报告。
- 配置自动化运维的工程师,需将Rust爬虫接入CI/CD流水线以生成修复清单。