Excel 与 CSV 数据清洗专家
将以下提示词粘贴到你的 AI 对话框中:
请根据 https://skillhub.cn/install/skillhub.md,安装 @user_92725383/data-cleaning-expert。
技能介绍
你会遇到的典型问题
- 同一个 Excel 表里出现多条重复记录,但不确定该保留最早一条还是最新一条。
- 下游模型要求日期必须是 ISO 8601,而源文件里混着
2024/05/01和2024-05-01。 - 十几张结构略有差异的 CSV 需要先映射成统一列,再合并成一张干净表。
为这类重复劳动写一次性脚本显然不划算。@user_92725383/data-cleaning-expert 把清洗、转换、合并整理成一套可复用的本地流程。
技能如何工作
- 所有操作先读取原始文件,再写入新文件,不会直接修改源数据。统一入口是
scripts/main.py,默认输出目录为./output/。 - 清洗阶段,空值默认保留;只有显式加上
--drop-na才会删除。去重默认保留第一条,加--keep last则改为保留最后一条,行为明确可预期。 - 日期字段统一输出为 ISO 8601;类型转换、列映射按
references/cleaning-rules.md中的规则执行。 - 处理前可先生成
quality_report.json,把重复项、空值分布、格式异常汇总成结构化报告,方便复核后再决定清洗策略。 - 输出产物包括
cleaned_.csv、converted_.xlsx或 JSON,以及merged_output.csv,并支持 Excel/CSV/JSON 三种格式互转。
适用边界与注意点
- 单个文件默认限制 100 MB,可用
--max-size调整,但过大的表仍需要事先抽样检查。 - 所有操作在本地完成,不上传云端;不会自动删除空值行,必须显式指定
--drop-na。 - 技能不负责判断数据来源是否合法,使用者需自行确认合规性。
使用场景
- 拿到重复记录较多的 Excel 报表,需要去重并生成可追溯的清洗文件
- 从多个 CSV 汇总数据,需要先映射列名、统一格式后再合并成一张表
- 下游模型要求日期为 ISO 8601,需要把混合格式的表格日期批量标准化
- 手上的数据质量不明确,需要先运行质量检查并生成 quality_report.json 再决定清洗策略
适合人员
- 每周处理多张业务表、需要合并并输出清洗后 CSV 的数据分析师
- 为模型准备训练数据、必须做去重和格式标准化的算法工程师
- 维护固定报表模板、要替换重复行且不改原始文件的运营人员
- 用 Python 脚本整理本地表格、希望少写一次性脚本的工程师