AI安全测试：发现敏感数据泄露

MP4 |视频：h264，1920×1080 |音频：AAC、44.1 KHz、2 Ch
级别：所有级别 |类型： 电子学习 |语言： 英语 |持续时间：45 个讲座（1 小时 24 分钟）

你将学到什么

• 识别模型输出、检索结果、运行时上下文和训练数据中的 OWASP LLM-02 敏感信息泄露风险
• 设计 QA 测试用例，使用清晰的角色、提示策略、失败信号和合成数据来检测披露失败
• 通过将模型输出与已知测试数据进行比较并将真实披露与幻觉分开来验证可疑泄漏
• 报告 LLM-02 错误，并提供可重现的证据、攻击路径、披露影响、失败层、补救措施和关闭标准

要求

• 对软件测试 (QA) 有基本了解
• 基本熟悉法学硕士和提示

描述

大型语言模型正在改变软件的构建方式。他们还创建了传统 QA 工作流程从未设计用于测试的新故障路径。

本课程重点关注 OWASP LLM-02：敏感信息泄露，这是 OWASP 大型语言模型应用程序十大风险中最重要的风险之一。问题描述起来很简单，但正确测试却很困难：基于 LLM 的系统能否泄露不应该允许用户看到的数据？

本课程专为需要实用测试方法而不仅仅是理论的 QA 工程师、SDET、自动化工程师和技术测试人员而设计。

您将了解敏感数据泄露是如何发生的

• 运行时上下文和实时会话数据
• 检索和授权失败
• 聚合推理和最小组阈值失败
• 训练数据记忆行为

您将学习如何

• 设计结构化的 LLM-02 测试计划
• 构建假设驱动的测试用例
• 定义明确的失败信号
• 区分真实披露和幻觉
• 获取可重复的证据
• 撰写可操作的错误报告
• 通过可重复的测试和回归覆盖来验证修复

该课程包括使用合成数据和现实场景的实践演示。您将看到可直接应用于支持 AI 的产品的实用 QA 工作流程。

课程结束

• 您将拥有一个可重复的流程来测试敏感信息泄露风险并将已确认的故障转化为长期回归覆盖范围。
• 本课程建立在 OWASP LLM 课程系列中使用的相同的质量第一方法的基础上。

人工智能使用情况披露

在课程开发过程中使用人工智能工具来支持头脑风暴、编辑、结构审查和迭代内容细化。所有技术内容、演示、工作流程和 QA 指南都经过讲师的审查、验证和调整，以确保准确性和实际使用。

未经教师审核和修订，不会生成和发布任何课程内容。

本课程适合谁

• 质量检查工程师和软件测试员
• 人工智能产品所有者和开发人员