18 | 安全防护——Prompt 注入、越狱与输出验证
Agent 系统面临的安全威胁比传统软件更隐蔽:Prompt 注入攻击、越狱(Jailbreak)、数据泄露、权限滥用。这篇系统讲解 5 种主要攻击方式和对应的防御策略,包括输入过滤、输出验证、PII 脱敏、权限控制和 Guardrails AI 框架。
Agent 系统面临的安全威胁比传统软件更隐蔽:Prompt 注入攻击、越狱(Jailbreak)、数据泄露、权限滥用。这篇系统讲解 5 种主要攻击方式和对应的防御策略,包括输入过滤、输出验证、PII 脱敏、权限控制和 Guardrails AI 框架。