技能介绍

要解决的问题

基于大模型的 AI Agent 在执行任务时存在输出不可控的风险：用户可能通过精心构造的输入绕过提示词约束，模型也可能生成包含敏感内容或偏离既定主题的回答。当 Agent 接入外部工具与工作流后，一次错误的响应不仅影响单次对话，还可能触发后续的连锁操作。NeMo-Guardrails 正是为这类场景设计，通过可编程的护栏规则对输入与输出进行双向检查。

核心能力

该技能包围绕 NeMo-Guardrails 框架组织，共包含 2 个子技能文件，覆盖护栏规则的定义与集成。其核心思路是将护栏逻辑从业务提示词中剥离，交由独立的规则层处理：

输入护栏（Input Guardrails）：在请求进入模型前进行检查，拦截不符合安全策略或偏离主题的输入
输出护栏（Output Guardrails）：对模型生成的响应进行二次校验，过滤违规内容
主题护栏（Topic Guardrails）：通过分类模型判断对话是否偏离允许的主题范围
自定义动作（Custom Actions）：支持用 Colang 编写逻辑，组合多步检查并返回结构化决策

关键步骤

定义护栏规则文件，声明允许/禁止的话题与模式
在 Agent 管线中挂载护栏检查点，分别作用于请求前与响应后
通过平台适配层对接运行环境

适用边界

兼容 Claude Code、Codex、Hermes Agent、OpenClaw、QClaw、WorkBuddy 等平台，具体行为可能因运行时对工具调用与上下文管理的支持不同而存在差异
规则本身基于模式匹配与分类模型，无法覆盖全部语义层面的对抗输入
每次护栏检查会增加额外的模型调用延迟，对延迟敏感的场景需要权衡检查粒度
护栏配置需要结合实际业务场景持续迭代