fclones重复文件扫描分组工具
将以下提示词粘贴到你的 AI 对话框中:
请根据 https://skillhub.cn/install/skillhub.md,安装 @user_3c6cb52e/find-and-group-duplicate-files-across-large-trees-before-cleanup-migration-or-backup-with-fclones。
技能介绍
解决什么问题
在维护大型代码库、海量日志或多媒体资源目录时,重复文件往往会悄无声息地耗尽磁盘空间。它们不仅拖慢 rsync 等增量备份的速度,还会让目录迁移变得臃肿且不可控。面对几十TB的数据,仅凭肉眼或传统的 find 命令根本无法快速定位这些“空间刺客”。
技能如何工作
本技能基于开源工具 fclones,将“查找、分组、审查”整合为一套可执行的工作流。它的核心能力与关键步骤如下:
- 深度扫描:递归遍历指定路径,计算文件哈希值,即使是隐藏在深层子目录中的重复项也能被精准识别。
- 智能分组:不是简单罗列重复项,而是将相同哈希的文件聚合为一个独立的重复文件组,便于直观评估每个组占用的空间。
- 干预前审查:在执行任何清理、删除或迁移操作之前,强制输出分组后的报告。这能让工程师在动手前全面评估潜在风险,确保只删除真正的冗余数据。
适用边界与注意事项
该技能专门面向大规模目录树的清理、迁移或备份场景。
由于涉及底层的文件系统扫描和敏感的删除动作,使用时请务必注意:
- 首次运行时,请先针对测试目录执行,观察
fclones输出的报告结构。 - 当前技能包未内置标准的自动化安装脚本,请在使用前查阅并确认上游项目的最新文档,以确保在敏感的生产环境中安全运行。
使用场景
- 运维团队在将TB级日志目录迁移到新存储前,需快速找出重复日志文件并分组评估可清理空间
- 开发工程师清理代码库附件目录时,需定位重复测试图片并分组,避免误删有效资源
- 数据管理员执行全盘备份前,需扫描重复多媒体文件并分组,减少备份数据冗余
- 存储管理员释放磁盘空间时,需找出重复大型文档并分组,确定可删除的冗余项
适合人员
- 存储运维工程师,负责大规模目录清理与迁移,需精准定位重复文件节省存储空间
- 后端开发工程师,管理代码库静态资源目录,需清理重复附件避免迁移臃肿
- 数据备份管理员,负责定期备份海量数据,需减少重复文件对备份速度的影响
- 多媒体资产管理员,管理大量图片视频资源,需在迁移前清理重复文件