实用的人工智能安全

打破人工智能系统。然后保护它们。

如果您是学习在 AI 环境中操作的安全从业者，或者是需要了解对手实际行为的 ML 工程师，《实用 AI 安全》将为您提供该领域所需的技术基础。

本书以基本原则为基础，带您了解模型如何失败、如何被利用以及如何对其进行防御和审计。每项技术都包含清晰的解释和真实示例，您可以通过 30 多个实用的 Python 演示自行运行攻击和防御。

• 了解不同类型的机器学习模型如何产生独特的漏洞，并探索如何将这些模型集成到更加自主、更加代理的 AI 系统中，从而引入新的弱点和风险。
• 识别、利用并防御 AI 生命周期中的数十种弱点和攻击，包括数据中毒、模型盗窃和提示注入。
• 使用结构化基准测试评估 AI 系统的安全故障、偏差和一致性风险。
• 使用 MITRE ATLAS、OWASP 和 MAESTRO 框架的威胁模型代理系统、RAG 管道和多模式架构。
• 设计并执行针对 AI 的红队活动，并了解其与传统安全测试的不同之处。
• 进行快速风险审核并导航 AI 治理框架以进行实际部署。

无论您使用、构建、部署还是监督人工智能，这都不是小众知识，而是捍卫定义人类进步下一个时代的技术的基础。