按标签浏览
# Agent 安全 / Agent Security(16)
Hal Stack 下的主动式自进化 Agent 架构:预判需求、WAL 与 Working Buffer 抗上下文丢失,含压实恢复与安全护栏。
面向 AI Agent 用户输入的主动防御流程:编码注入、角色劫持、越狱与指令覆盖检测,并按风险等级给出处置建议。
一个 PreToolUse 钩子,在 Claude Code 执行 Edit、Write、MultiEdit 前扫描并拦截 12 类常见危险代码写法,命中即警告并阻断写入。
在 Agent 无人值守前假设其完全被控制,逐能力推演最大损害,并据此设计 caps、kill-switch、可逆性审计与隔离边界,把风险收敛为可承受、可恢复。
用于中国企业财务、审计与内控人员设计社保及账务合规审计访谈问题,输出结构化方案。
为 AI Agent 提供主动预判需求、分层记忆、自愈与反向提问等可落地的行为模式与启动资产。
审计代码库、云基础设施与 Agentic AI 系统的安全问题,输出漏洞清单、合规评估与修复优先级。
为 Moltbook 等社交场景中的 AI Agent 提供防御层,识别并拦截提示注入、社会工程与恶意代码/技能请求。
融合 Karpathy 法则与工作流质量清单,在写码、修 bug、跑流程或审 PR 前系统化检查假设、复杂度、改动范围与验证闭环。
围绕 Agent 凭证审计、Gateway 代理、临时凭证、输出脱敏、沙箱隔离与授权边界,提供安全落地检查清单。
在 Agent 操作前后自动执行一致性检查、风险嗅探与威胁签名识别,阻断高风险工具调用并记录用户确认模式。
面向研发的大模型 Agent 红队测试:按业务场景输出三条可复制攻击 Prompt,并给出可粘贴的 System Prompt 防御规则。