代理人工智能安全与治理：构建安全的人工智能代理

资源截图

MP4 |视频：h264，1920×1080 |音频：AAC，44.1 KHz，2 Ch
语言：英语 |时长：5小时20米

您将学到什么

• 了解代理 AI 威胁形势以及 AI 代理与聊天机器人和传统软件有何不同。
• 防御即时注入、目标劫持、工具滥用、过度代理和内存中毒攻击。
• 设计具有最低权限访问、策略门、沙盒、验证和人工批准的安全代理架构。
• 使用 FastAPI、身份验证、政策决策和审批工作流程构建受监管的 AI 代理 API。
• 针对允许、拒绝和人工审核决策实施政策即代码控制。
• 通过 PII 修订、安全日志记录、内存控制和 RAG 安全保护敏感数据。
• 威胁模型多代理系统、MCP 服务器、外部工具和第三方集成。
• 通过审核日志、异常检测、自主预算和终止开关监控 AI 代理。

要求

• 基本的 Python 编程知识。
• 熟悉 API、JSON 和命令行用法。
• 对 AI、LLM 或 ChatGPT 式应用有基本了解。
• 无需高级网络安全经验。
• Python 3.10+、VS Code（或类似版本）和互联网接入。
• FastAPI、LangChain、LangGraph、OPA、Presidio、OpenTelemetry、Promptfoo 或 MCP 的可选知识。

描述

了解如何设计、保护、管理、监控和部署可用于生产的 AI 代理。探索关键的安全和治理主题，包括即时注入防御、MCP 安全、A2A 安全、信任管理、授权、合规性、可观察性和安全多代理系统。

该课程涵盖行业标准和框架，例如 NIST AI RMF、ISO 42001、LLM 应用程序的 OWASP Top 10、OWASP Agentic AI Risks 和企业 AI 治理最佳实践。

实践项目：

• 代理身份和代理身份身份验证
• 授权与授权访问控制
• 信任验证和信任评分
• MCP 和A2A 安全控制
• 政策执行引擎
• 审核日志记录和合规跟踪
• 风险评估框架
• 安全监控与可观测性
• 治理仪表板

本课程适合谁

想要构建、保护、治理、测试、监控或部署值得信赖的 AI 代理和企业 AI 系统的 AI 工程师、LLM 工程师、Python 开发人员、安全工程师、架构师、平台工程师、技术主管和企业架构师。