NVIDIA DALI 动态模式

要解决什么问题

NVIDIA DALI 长期以流水线模式（Pipeline、@pipeline_def、pipe.run()）为主：先建图再跑 epoch，和 PyTorch 训练循环里的命令式写法容易脱节。nvidia.dali.experimental.dynamic（ndd）提供动态模式——在普通 Python 控制流里直接调 DALI 算子，更适合让 AI 代理生成、审查和从流水线迁移数据加载代码。

技能如何约束与指导

• 导入与风格：统一 import nvidia.dali.experimental.dynamic as ndd，禁止混用流水线 API。
• Batch 语义：Batch 无 __getitem__；取样本用 batch.tensors[i]，样本内切片用 batch.slice[...]；转 PyTorch 用 batch.torch()，形状不齐时用 pad=True。
• 读取器：ndd.readers.File 等有状态对象——创建一次、跨 epoch 复用；batch_size 传给 next_epoch(batch_size=N)，且 epoch 间 batch 模式不可切换。
• 设备与执行：混合解码用 device="gpu"（勿用流水线里的 "mixed"）；进 GPU 模型前不必 .cpu()，.torch() 可走 GPU；调试时用 EvalMode.sync_cpu / sync_full 定位异步队列里的错。
• 随机与检查点：随机算子需显式 batch_size；检查点按读取器/RNG 注册，enable_checkpointing=True 且状态须在第一次 next_epoch 前恢复。

适用边界

动态模式更灵活，峰值吞吐通常低于流水线模式；大规模训练若只追求吞吐，仍应优先流水线。运行与验证需已安装支持 dynamic 的 DALI，GPU 路径还需 CUDA 构建与可用 GPU。