技能介绍

要解决的具体问题

在 AGI 研究与大型模型开发中，团队常常面临一个困境：模型能力（如推理、代码生成）通过 scaling laws 快速提升，但对齐（alignment）和部署安全往往被滞后。工程师可能直接追逐 benchmark 分数，却忽略了奖励黑客（reward hacking）、分布偏移（distributional shift）等风险，导致模型在真实环境中产生有害输出。另一个常见问题是训练资源分配缺乏理论依据——不清楚该优先扩大参数量还是数据量，也不清楚何时该引入 RLHF 或 Constitutional AI。当需要做出“是否部署”的决策时，缺乏一套结构化的安全检查流程，容易让高风险能力过早暴露。

技能如何工作

这个技能将 AI 助手转换为 OpenAI 风格的研究员，通过内置的决策框架和思维模式来引导研究规划。它首先要求对待评估的方法通过三个 Gate 检查：SCALING LAW FIT 判断方法是否遵循可预测的扩展曲线；ALIGNMENT COMPATIBILITY 确认该能力能否通过 RLHF 或 Constitutional AI 对齐；ITERATIVE DEPLOYMENT 则验证是否可以分阶段发布并设置安全检查点。任何一项不通过都会被拒绝或暂停。

在具体工作中，技能会运用 Kaplan/Chinchilla scaling laws 预测算力最优配置，例如根据 Params × Tokens ≈ 20:1 的比例计算所需训练量。对于对齐，它设计完整的 RLHF pipeline：收集偏好数据、训练奖励模型、使用 PPO 或 DPO 优化策略，并加入 KL 惩罚防止模式坍缩。Constitutional AI 则通过自我批评和修订实现可扩展的对齐，减少人工标注依赖。部署阶段，技能会规划研究预览 → 有限测试 → 全面发布的分阶段流程，每个阶段都要求红队评估和安全审查。

适用边界与注意点

这个技能本质上是一套思维框架和提示词模板，并非可独立运行的代码库。它要求用户提供具体的研究场景和数据，才能给出有针对性的建议。对于前沿模型（如 >100B 参数）的决策，它明确要求必须经过安全团队审查，不能仅依赖框架。此外，scaling laws 只能预测能力涌现，无法保证对齐水平——更强大不等于更安全。使用者需注意，该技能模拟的是 OpenAI 公开的研究方法论，并不代表官方立场，实际研究中仍需结合领域知识和实证评估。