AI 工作站算力规划

要解决的具体问题

当工程师准备在本地部署 AI 工作站时，常遇到两类卡点：一是不清楚训练/推理目标对应的硬件底线，二是缺乏把预算拆解成 CPU、GPU、内存、存储等具体配置的规划方法。该技能围绕本地或机房内 AI 工作站场景，把"这台机器到底需要多少算力"变成可复核的规划过程，而不是凭经验随手堆配置。

核心能力与关键步骤

1. 需求拆解：从任务类型、模型规模、批大小、延迟要求、数据量等参数出发，先明确工作站要承载的训练、微调或推理负载。
2. 算力匹配：把负载映射到可用算力单元，评估 GPU/加速器、CPU 核心、内存带宽和容量、NVMe 吞吐是否构成合理瓶颈平衡，而不是单点过剩。
3. 选型输出：给出可落地的配置方向，例如 GPU 数量与型号、内存配比、存储策略、电源与散热余量，并标注每项配置对应的假设。
4. 风险提示：识别选型中的约束条件，如 PCIe/显存限制、跨卡通信需求、数据集是否适合本地缓存，以及扩展路径是否与当前架构兼容。

适用边界与注意点

• 该技能聚焦规划与决策支持，不替代真实基准测试；正式采购前仍需用代表性负载做 PoC 验证。
• 它不做云端实例比价，也不覆盖集群编排；如果目标是公有云训练集群，需要另外的选型方案。
• 输入参数越具体，输出越可靠；若只给模糊描述，结果会退化为通用参考。
• 最终硬件仍需检查主板接口、机箱风道、电源额定功率与散热设计，避免纸面配置无法落地。