自托管网页归档
将以下提示词粘贴到你的 AI 对话框中:
请根据 https://skillhub.cn/install/skillhub.md,安装 @kunlungrowth/self-hosted-web-archive。
技能介绍
网页存档的现实困境
- 论文、技术文档或证据页面突然404,原始内容再也无法访问
- 书签越攒越多,但多数链接早已失效,只剩空标题
- 依赖第三方服务时,数据可能因政策调整或服务关停而丢失
- 普通"另存为"无法完整保存动态页面或多媒体资源
核心工作机制
- 全量内容捕获:通过自托管归档服务保存完整 HTML 及关联资源,动态页面采用截图与 PDF 双重留存
- 多源数据导入:支持对接浏览器书签、历史记录,也可直接提交 URL 进行手动归档
- 策略化抓取配置:可设置是否递归抓取子页面、是否存储媒体文件及抓取频率阈值
- 全文检索索引:对归档内容的标题、正文、日期建立可检索索引,替代单纯链接存储
- 持久化保障:通过定期离线备份机制,确保归档库不会因单点故障丢失
关键实践要点
- 存储规划:媒体文件占用空间较大,需提前评估磁盘容量并配置冗余备份
- 合规抓取:遵守目标站点
robots.txt规则与访问频率限制,避免高频请求影响源站性能 - 版权边界:归档他人内容时需遵循合理使用原则,批量抓取前确认站点条款
- 隐私保护:敏感页面(如登录后内容、个人信息)需获得授权后才能保存传播
使用场景
- 写论文时发现核心引用链接失效,需要找回原始页面内容
- 浏览器收藏夹堆积上千书签,多数原网页已404无法访问
- 收集竞品分析资料时,对方官网多次改版导致历史页面丢失
- 作为证据留存,需要将重要网页保存为可离线查阅的完整快照
适合人员
- 科研人员:需要长期保存学术文献和实验数据页面,防止引用链接失效
- 内容创作者:收集的写作素材链接频繁过期,需要本地化归档管理
- 法务人员:电子证据保全要求网页内容可追溯、可验证的完整快照
- IT运维:需要自建内部知识库,统一归档公司内部文档和外部参考资料