模型转换助手
将以下提示词粘贴到你的 AI 对话框中:
请根据 https://skillhub.cn/install/skillhub.md,安装 @user_b4da0893/model-conversion-cn。
技能介绍
为什么转换不是一次导出这么简单
同一份模型,从一个训练框架搬到 ONNX、ONNX Runtime、TensorRT、移动端或其他推理运行时,失败往往不在加载步骤,而在更隐蔽的语义变化上:动态形状被静默固定、后处理逻辑被切到另一边、量化校准集不代表真实分布、某个私有算子没有对应实现,或者训练态的 dropout、归一化的实现细节与目标端并不等价。每条路线都像是把多个变量同时改了一遍,出问题时很难说清是哪一步偏离了预期。
技能如何工作
模型转换助手把转换拆成可以度量、可以回退的工程流程,而不是一长串尝试指令。
- 先固定基线:语义标识、提交哈希、依赖与权重摘要、输入输出契约、一批代表性输入的期望输出。
- 再采集证据:逐算子追踪决策报告里的兼容性差异,区分导出错误、元数据缺口和语义不匹配。
- 输出结构化诊断:单个请求内返回失败原因、影响范围、建议修法、可执行的下一步检查,而不是模糊的重试提示。
- 提供修复路径:按精度折损、输出模式和优化层分阶段给出可行方案,避免直接吞掉不兼容算子。
- 保留回退能力:每一步都留下记录,转换失败或指标退化时可以把问题定位到具体节点,而不是从零开始。
使用边界
它不会替你决定量化策略或训练架构,也不能替团队判断业务侧对精度损失的容忍度。带境外云厂商签名或隐私合规要求的模型,需要先确认授权与合规方式再处理。目标运行时和端侧推理路径差异较大时,产物仍要在真实硬件上验证一遍。更多背景和维护说明见仓库。
使用场景
- 模型工程师要把训练框架产物迁到服务端或端侧运行时,并提供可复现验证
- 算法同学需要对目标设备量化模型,先准备代表性校准集和分层精度预算
- 部署人员遇到导出后输出不一致,想要定位首个数值分叉节点与证据
- 团队要在无训练代码情况下判断端侧可行性,并明确哪些结论未经验证
适合人员
- 模型工程师,需要把不同框架与运行时的转换拆成可回退、可验证的版本交付
- 部署工程师,需要建立真实设备上的性能验收和精度回归证据链
- 算法团队负责人,需要在量化或端侧上线前确认兼容性风险、限制和回退方案