Agent Skills
返回列表
中文脏数据清洗

中文脏数据清洗

数据分析 更新于 2026.08.29

将以下提示词粘贴到你的 AI 对话框中:

请根据 https://skillhub.cn/install/skillhub.md,安装 @user_36c7efa2/data-cleanup-zh。

技能介绍

问题从哪来

通用清洗脚本和英文向的 AI 提示,碰到中文业务表往往对不上号:地址没有逗号分段、姓名里有复姓、手机号带 +86 或横线、日期混用「2024年3月」和 24/3、身份证还要算校验位。本技能把这类格式层的脏数据拆成五个可操作的场景,而不是去做公安或运营商级别的实名校验。

技能怎么帮你落地

执行时会先摸清数据规模、字段类型和工具栈(Excel / pandas / SQL),用样本做脏度诊断,再按场景给出可跑的方案:

  • 地址:基于民政部行政区划思路,从长到短匹配省市区,处理直辖市与港澳台边界,推荐 cpca 等实现
  • 手机:去前缀与分隔符、归一化 11 位,按现行号段规则校验并识别运营商
  • 姓名:维护复姓清单,区分单姓/复姓与少数民族 · 分隔等写法
  • 日期:统一多种中英文与中文数字日期到可解析格式
  • 身份证:18 位校验码与省、出生日、性别等字段提取,并强调脱敏

输出以可复制的代码片段或公式步骤为主,并附带自检清单(空值、超长、敏感字段是否脱敏、是否先备份)。

边界与注意

明确不做:反洗钱身份核验、手机号实名认证。涉及身份证号时须遵守个人信息保护要求,日志与库表避免明文存全号,不向用户回传「姓名 + 完整身份证号」组合。用户拿到可执行清洗逻辑且边界说明完整后,技能即结束;不主动做可视化、入库或下游分析。

使用场景

  • CRM 或订单导出里地址整段在一列,需要拆成省、市、区再按区域做统计或匹配行政区划
  • 用户表手机号混有 +86、横线、全角数字或假号段,入库前要先归一化并筛掉不合法 11 位
  • 员工或会员名单姓名未分列,报表要姓/名或要识别欧阳、司马等复姓,不能按首字硬切
  • 活动报名表日期写成「2024年3月」「24/3」混排,要统一成同一日期类型才能按日聚合或排序

适合人员

  • 负责把业务系统导出表做成周报、月报的数据分析,要在 Excel 或 Python 里先规范地址和手机再透视
  • 数仓或 BI 工程师在 ODS 层接入国内用户主数据,需要可复用的中文姓名、日期、身份证格式规则与脱敏提醒
  • 没有专职开发的运营或商务,手里是几万行 Excel 客户清单,只想用公式或一段 pandas 洗完再发回业务
  • 做数据合规或隐私自查的专员,要确认清洗流程只做格式校验、日志里不全文存身份证号