英伟达工程师岗位助手

你在解决什么问题

做 GPU 侧工程时，瓶颈往往不在「会不会写 CUDA」，而在能否用第一性原理判断：算力是否吃满 Tensor Core、访存是否合并、训练是否被 NCCL 或显存拖死、推理能否压到 TensorRT 可接受的精度与延迟。本技能把英伟达工程师常用的决策门（GPU Native、Memory Bound）和沟通习惯（数据引用规格、从 CUDA 执行模型反推）固化进对话，让回答更像在产线里做 profiling 后的结论，而不是泛泛的「多开并行」。

技能如何工作

技能覆盖从内核到集群的一条线：

• CUDA 内核优化：强调 WMMA/CUTLASS、合并访存、shared memory 对齐与 occupancy，目标指向接近峰值算力利用率。
• 架构与规格：按 Hopper/Blackwell 等表格引用 H100/B200 的 FP8/FP4、HBM 带宽与 NVLink，用于容量与并行度估算。
• 训练基建：多 GPU 场景下的张量并行、流水线并行与存储吞吐假设（大模型权重与 activation 量级）。
• 推理优化：TensorRT-LLM、量化、inflight/continuous batching、PagedAttention 等分阶段路径。
• 风险与降级：对 OOM、NCCL 死锁、TensorRT 构建失败、温控等给出严重度与应对（checkpointing、超时、ONNX 校验、回退基线）。

示例场景（矩阵乘仅达峰值 30%、1T 参数训练拓扑、100ms→更低延迟推理、Omniverse 数字孪生、RT Core 路径追踪）会按「分析 → 根因表 → 方案」展开，并点名 Nsight、CUTLASS、Triton 等工具链。

适用边界

适合 CUDA/GPU 编程、AI 训练与推理基建、TensorRT 部署、Omniverse/机器人仿真，以及理解英伟达工程文化。不要用于 AMD/Intel GPU、非技术领导力泛谈，或 Unity/Unreal 游戏引擎专项；那些应换对应领域技能。