> 资源 > 视频课程 > IT与软件

即时注射和法学硕士答辩 ()

立即下载

免费资源

暂无评分

AI 安全和红队：掌握直接/间接攻击、RAG 中毒、AI 代理风险和深度防御。

IT与软件

你将学到什么

✓ 执行直接和间接即时注入攻击，以暴露 LLM、RAG 管道和自主 AI 代理中的漏洞。
✓ 设计强大的“深度防御”架构，保护 AI 应用程序免受恶意输入、数据泄露和未经授权的操作的影响。
✓ 使用 Promptfoo、Garak (NVIDIA) 和 PyRIT (Microsoft) 等行业标准工具自动执行 AI 红队和安全测试。
✓ 强化系统提示并实施输入/输出验证，以有效缓解 OWASP LLM Top 10 中的 #1 漏洞。
✓ 识别和利用高级 AI 攻击媒介，包括 RAG 知识库中毒、多模式图像注入和隐形文本隐写术。
✓ 分析现实世界的 AI 安全故障（例如 GitHub Copilot RCE 和 Bing Chat 泄漏），以了解攻击者的心态并防止代价高昂的违规行为。

要求

● 基本熟悉人工智能聊天机器人：您应该具有使用 ChatGPT、Claude、Gemini 或 Copilot 等工具的一般经验。
● 无需高级编程技能！核心漏洞和提示注入技术完全基于文本。任何人都可以学习它们，无论编码背景如何。
●（可选）基本命令行知识：虽然不是强制性的，但如果您想安装并遵循模块 6 中的自动化红队工具，对终端的基本熟悉（使用 npm 或 pip）会很有帮助。
● 一台具有互联网连接和现代 Web 浏览器的计算机，用于参与交互式、动手夺旗 (CTF) 黑客练习。
● 道德心态：愿意学习这些进攻性技术，严格用于防御和教育目的。

描述

欢迎来到人工智能安全终极指南：即时注入和安全LLM Defense（2026 版）！
生成式 AI 和自主代理正在彻底改变世界，但它们都有一个巨大的、未解决的架构缺陷。根据法学硕士 OWASP Top 10 的数据，即时注入是当今人工智能中排名第一的安全风险。这是“AI 时代的 SQL 注入”。
如果您正在构建、测试或部署 AI 聊天机器人、RAG（检索增强生成）管道或自主 AI 代理，您需要准确了解攻击者如何劫持您的系统，更重要的是如何阻止它们。
由 AI 安全研究员 Armaan Sidana 设计，本课程将带您在 3 岁以下的时间内从绝对的初学者成长为高级 AI 红队队员
忘记冗长、冗长的理论——这是一门零废话、高影响力的速成课程，旨在让您在 90 分钟内精通。
这不仅仅是一门理论课程。理论部分占 55%，实践部分占 45%，您将主动攻击 AI 模型，绕过安全护栏，构建企业级防御架构。
每堂讲座都简洁且可操作，尊重您的时间，让您更快掌握实践技能。
您将学到什么
AI 安全的基础
• 了解 LLM 的核心漏洞：指令和数据的合并。
• 了解 Prompt 之间的关键区别注射和越狱。
进攻策略：直接和越狱。间接攻击
• 直接提示注入：主指令覆盖、角色扮演 (DAN)、有效负载分割和高级令牌混淆（Base64、Typoglycemia）。
• 间接提示注入：了解攻击者如何在无需输入提示的情况下劫持 AI 系统 — 使用网站上的隐藏文本、中毒的 RAG 文档和图像中的隐写术（多模式攻击）。
• 代理和代理工具使用漏洞：了解为什么具有 API 访问权限的 AI 代理非常危险，以及攻击者如何伪造代理推理来执行未经授权的操作。
企业深度防御
• 超越薄弱的“系统提示”修复。
• 构建完整的分层架构：输入验证、语义检测模型（Prompt Guard、Lakera）、输出过滤和权限分离。
• 分析现实世界的故障（Bing Sydney、Chevy Chatbot、GitHub Copilot） RCE）来了解不该做什么。
自动化 AI 红队
• 使用行业标准自动化工具扩展您的安全测试。
• 学习将 Promptfoo 集成到 CI/CD 管道中。
• 使用 NVIDIA 的 Garak 扫描漏洞。
• 使用 Microsoft PyRIT 协调高级、多轮对抗攻击。
实时 CTF (Capture The Flag)
• 通过黑客攻击对您的技能进行终极测试实时人工智能目标，如 Lakera Gandalf Guardian 和 Scott Logic Sandbox。
本课程适合谁？
• 软件工程师和工程师想要构建安全的 LLM 应用程序、RAG 系统和 AI 代理的 AI 开发人员。
• 网络安全专业人员、渗透测试人员和工程师红队成员希望提升技能，进入快速发展的人工智能安全领域。
• P产品经理和在将人工智能功能部署到生产之前需要了解风险的技术领导者。
• 想要了解该技术在幕后如何真正工作的人工智能爱好者。
先决条件
• 对 LLM（如 ChatGPT、Claude 或 Gemini）有基本了解。
• 无需高级编码经验！概念讲解清晰，每个人都可以使用我们使用的工具。
关于总学习时间的说明
虽然本课程包含大约 1.5 小时的高影响力点播视频，但您应该计划总共 2.5 到 3 小时来完成整个学习体验。这些额外的时间对于
• 与动手演示一起练习。
• 重新观看复杂的攻击和防御概念。
• 充分参与交互式夺旗 (CTF) 挑战，您将在其中应用您的技能。
本课程旨在将知识转化为技能，只有您积极参与才能实现这一目标！
不要等到您的 AI 应用程序因错误的原因成为头条新闻。
立即注册，学会像这样思考攻击者，并保护您未来的 LLM 申请！

本课程适合谁

■ 软件工程师和软件工程师AI 开发人员：任何在生产应用程序中构建或集成大型语言模型 (LLM)、RAG（检索增强生成）管道或自主 AI 代理并希望确保其安全的人。
■ 网络安全专业人员和专家红队成员：渗透测试人员、安全分析师和道德黑客，希望快速提升技能，进入高需求的 GenAI 安全领域，并学习如何审核 AI 系统。
■ 机器学习工程师和红队成员数据科学家：负责部署模型并需要深入了解恶意行为者如何绕过对齐和安全护栏的专业人员。
■ 技术主管、首席技术官和首席技术官产品经理：在向公众用户公开人工智能功能之前需要彻底了解与部署人工智能功能相关的风险、财务责任和声誉损害的决策者。
■ 人工智能爱好者和消费者Tinkerer：任何对人工智能安全、“越狱”的猫鼠游戏着迷的人，并了解如何操纵聊天机器人来打破自己的规则。