AI 红队精通：LLM 安全、防御和渗透测试

资源截图

MP4 |视频：h264、3840×2160 |音频：AAC、44.1 KHz、2 Ch
级别：所有级别 |类型： 电子学习 |语言： 英语 |时长：28 个讲座（2h 17m）

你将学到什么

• 掌握 AI 红队方法，以系统地识别和利用 LLM 和生成 AI 系统中的漏洞。
• 使用 PyRIT 和 Garak 等行业标准工具执行对抗性攻击，包括即时注入、越狱、模型规避和数据中毒。
• 设计和部署多层 AI 防御措施 – 护栏、对抗训练和内容安全过滤器，以强化现实世界的 AI 应用。
• 构建自定义 Python 自动化框架，以进行系统的 AI 安全测试、报告和持续对抗模拟。

本课程旨在带您超越理论，进入真实的、动手实践的人工智能安全和红队。

人工智能系统正在迅速集成到现实世界的应用程序中，但大多数专业人士仍然不明白如何攻击、操纵或保护这些系统。在本课程中，您将确切地了解到这一点。

我们从网络安全中的人工智能基础、用于机器学习的 Python 以及现代机器学习系统如何在安全环境中运行开始。从那里，您将使用真实数据集构建实用的防御系统，例如垃圾邮件检测、恶意软件分类、异常检测和欺诈检测管道。

随着您的进步，您将进入法学硕士和人工智能系统安全领域——使用 Hugging Face、本地法学硕士和人工智能管道等工具。您将了解这些系统如何运作、它们在哪里失败以及攻击者如何利用它们。

课程随后转向红队。您将执行真实的攻击技术，包括即时注入、越狱、数据中毒、对抗性攻击和人工智能系统利用。您还将探索人工智能驱动的渗透测试、OSINT 和自主代理漏洞——这些技能的需求越来越大。

在本课程结束时，您将能够以实用、现实的心态构建、攻击和保护人工智能系统。

这是一个不断发展的课程，会定期添加新内容。尽早注册，以便随着课程的扩展，终身访问所有未来的更新。