AI安全大师班：即时注入和LLM安全

资源截图

MP4 |视频：h264，1920×1080 |音频：AAC、44.1 KHz、2 Ch
级别：所有级别 |类型： 电子学习 |语言： 英语 |时长：87 场讲座 ( 11h 28m )

你将学到什么

• 想要构建安全的 LLM、RAG 和 AI 代理应用程序的 Python 开发人员。
• AI 工程师和 GenAI 开发人员正在寻求保护其应用程序免受即时注入、越狱和其他 LLM 攻击。
• 软件工程师使用 OpenAI、Ollama 或其他大型语言模型构建 AI 支持的产品。
• 想要保护文档检索、工具调用、内存和多代理工作流程的 RAG 和 AI 代理开发人员。
• 将 AI 集成到生产应用中的云和后端开发人员需要实用的安全模式和防护措施。
• 技术架构师和工程主管负责设计安全的 AI 系统和治理。
• 已了解 Python 基础知识并希望专注于 AI 应用安全的学生和开发人员。
• 任何对人工智能安全感兴趣、更喜欢实践实验室而不是理论并希望通过构建、攻击和保护实际应用程序来学习的人。

要求

• 基本的 Python 编程知识，包括变量、函数、类和模块。
• 一台运行 Windows、macOS 或 Linux 并有权安装软件的计算机。
• 无需具备 AI 安全、网络安全或即时注入方面的先验知识 – 我们将逐步介绍所有内容。
• 对大型语言模型 (LLM) 或 AI 聊天机器人有基本的了解会很有帮助，但不是强制性的。
• OpenAI API 密钥是可选的。在整个课程中，您还将学习如何使用 Ollama 的免费本地模型来完成实验。
• 愿意通过动手编码练习来构建、破坏和保护真正的 AI 应用程序。

描述

构建不仅功能强大而且设计安全的人工智能应用程序。

在这个实践人工智能安全大师班中，您将学习如何构建、攻击和保护由大型语言模型 (LLM) 提供支持的现代应用程序。使用Python和Ollama，您将创建一个完整的人工智能助手，并逐步添加聊天、检索增强生成(RAG)、工具调用、持久内存、自主代理和生产安全控制。

您将首先构建本地 AI 聊天助手，并探索为什么 LLM 安全性与传统应用程序安全性不同。然后，您将发起真实的提示注入攻击，尝试暴露隐藏指令，测试角色扮演和多回合越狱，并尝试编码的提示操作技术。

接下来，您将构建一个基于文档的 RAG 应用程序，能够回答 PDF 中的问题。您将看到恶意文档如何引入间接提示注入、毒害检索到的上下文、操纵答案以及破坏可信知识。您将使用源验证、上下文隔离、清理和强制控制来保护 RAG 管道的安全。

课程随后超越了聊天机器人响应，进入了真实的应用程序操作。您将使用天气、计算器和电子邮件工具构建一个工具调用人工智能助手。在对敏感操作实施输入验证、最低权限、目标限制和人机交互批准之前，您将测试参数注入和未经授权的工具执行。

您还将添加持久人工智能内存，并了解攻击者如何毒害存储的信息以操纵未来的对话。您将使用验证、批准工作流程、风险评分和安全存储策略来保护内存。

随着助手变得更加自主，您将构建一个能够规划任务、选择工具和执行多步骤工作流程的AI 代理。然后，您将尝试损害其决策，并通过权限、策略执行、批准门和限制执行来保护它。

在课程结束时，您将把所有防御措施组合成一个可重复使用的人工智能安全网关，其中包括：

• 及时注入检测
• 越狱过滤和风险评分
• RAG 安全和环境清理
• 工具授权和参数验证
• 内存中毒防护
• 代理安全控制
• 人工审批工作流程
• 输出验证和审核日志记录

最后，你会ckage 并使用 Docker 运行完整的安全 AI 助手，并通过 Ollama 将其连接到本地模型。

本课程非常适合Python 开发人员、生成式 AI 工程师、RAG 开发人员、AI 代理构建者、软件工程师和想要获得保护真实 LLM 应用程序实际经验的技术专业人员。

你不会简单地研究人工智能攻击。您将构建易受攻击的功能，利用它们，实施防御，并验证这些防御是否有效。

构建它。攻击它。确保其安全。