(八)Agent 应用的隐私和安全
解读 AWS 系列(八)的隐私安全实践。
业界实践解读 · 对应 ETCLOVG G 层(治理与安全)。 原文:https://aws.amazon.com/cn/blogs/china/privacy-and-security-of-agent-applications/
AWS 的主张
- 威胁清单:按 OWASP 列 15 类 Agentic AI 威胁,重点含记忆投毒(T1)、工具滥用(T2)、权限滥用(T3)、身份伪造(T9)。
- 推荐实践:(1) 把 Agentic AI 威胁建模(STRIDE、OWASP LLM Top 10)纳入 SDLC,把 LLM/MCP server/外部数据源都当作 独立信任边界组件;(2) 控制平面与数据平面分离——推理时把工具描述/系统提示(控制面)与工具响应(数据面)隔开,防 间接注入;(3) 分层输入/输出过滤(在用户输入、记忆写入、工具描述、agent 响应、agent 间消息多处部署 Guardrails); (4) MCP server 治理——部署前集中安全审查,检测 rug pull 与工具投毒。
- AWS 组件:Bedrock Guardrails(内容过滤、话题限制、PII 保护、注入防御)、AgentCore Gateway(会话级身份隔离、 按用户权限、加密凭据)。核心论断:Agentic 安全需多层防御,并把 MCP 生态当作零信任软件供应链对待。
这页有帮助吗? 谢谢反馈。