保护代理人工智能：攻击和防御自主代理

资源截图

MP4 |视频：h264，1920×1080 |音频：AAC、44.1 KHz、2 Ch
级别：所有级别 |类型： 电子学习 |语言： 英语 |时长：45 个讲座（3h 34m）

你将学到什么

• 绘制任何代理工作流程的攻击面：工具、内存、计划循环、多代理边缘
• 利用提示注入（直接和间接）、工具/命令/SSRF 注入、内存中毒
• 劫持代理计划并触发拒绝钱包；用行刑卫保卫
• 通过权限代理、MCP 范围和审批门强制执行最低权限
• 保护多代理系统 (CrewAI/AutoGen)，防止代理间注入和代理攻击困惑的副手
• 使用容器+出口控制执行沙箱代码；捍卫工具/MCP 供应链
• 仪器跟踪、构建运行时护栏并运行自动红队（Garak、PyRIT）
• 编写符合 OWASP、ATLAS、NIST、EU AI Act、ISO 42001 的治理级红队报告

本课程包含人工智能的使用。

自主人工智能代理引入了全新的攻击向量。当法学硕士可以调用 shell、读取数据库、获取 URL、发送电子邮件以及跨多个步骤运行代码时，单个操作就不再是不安全的文本，而是大规模执行的操作。这就是行动放大，这就是为什么保护特工是它自己的学科。

这是一门实用的、先攻后守的课程。您将在 LangGraph 和本地 Llama 模型上构建一个故意易受攻击的代理 — TaskPilot，然后在八个动手实验室中攻击并强化它。您将利用直接和间接提示注入、工具和命令注入、SSRF、内存中毒、计划劫持、拒绝钱包、代理到代理注入和沙箱逃逸 – 然后构建防御措施：聚光灯和输出处理、安全工具设计、最低特权权限代理、MCP 范围界定、执行防护、具有出口控制的容器沙箱、人机循环门、跟踪、运行时护栏和自动红队Garak 和 PyRIT。

一切都在一台 16 GB 笔记本电脑上本地运行 Ollama — 无需付费 API 密钥，无需云帐户。每个讲座和实验室都以重要的框架为基础：LLM 应用程序的 OWASP Top 10 和 OWASP 代理安全计划、MITRE ATLAS、NIST AI 风险管理框架、欧盟 AI 法案和 ISO/IEC 42001。顶峰是一份可发布的红队和补救报告，您可以根据客户参与进行调整。