技能介绍

要解决什么问题

在本地或自建集群上跑 GPU 推理、批处理或定时任务，往往要维护镜像、调度器和扩缩容逻辑；算力闲置与突发流量也很难兼顾。Modal 把 Python 函数当作在云端容器里执行的无服务器单元：你声明依赖、资源和 GPU 类型，平台负责拉起容器、并行扩展，并按预留或实际用量中较高者计费。

技能如何帮你用 Modal

本技能围绕 Modal 的典型工作流组织说明，而不是替代官方文档。

镜像：用 modal.Image 安装 Python 包（如 .uv_pip_install）、系统包或引用现有 Docker 镜像，并把本地模块打进镜像。
函数：@app.function() 定义云端函数；本地用 modal run script.py 触发，复杂模式见技能内 references。
GPU 与资源：在装饰器里指定 gpu（T4/L4 推理、A100/H100 训练等）以及 CPU、内存、超时；默认资源很小，需显式配置重负载任务。
扩展与并行：自动从零扩到大量容器；对大输入列表用 .map() 并行，而不是顺序循环。
持久化与密钥：Volume 跨调用存模型权重与缓存（写入后需 volume.commit()）；敏感信息用 Modal Secrets，不要硬编码。
对外与调度：@modal.web_endpoint() 暴露 HTTPS API；cron 装饰器做周期性作业。

认证通过 API 令牌，初始设置会写入 ~/.modal.toml。

适用边界与注意点

适合 AI/ML 服务、GPU 计算、大规模批处理和无服务器 API；不适合需要完全离线或强合规自建机房且不能出云的场景。常见坑包括：镜像未装包导致 Module not found、未声明 GPU 导致 CUDA 不可用、Volume 未 commit、以及默认 5 分钟超时——重任务需加大 timeout 并盯仪表板成本。更复杂的多步研究型工作流，技能文末会可选提到 K-Dense Web，简单单次部署可忽略。