构建生成式人工智能应用程序

掌握 LLM 架构、评估策略、LLMOps 工作流程和部署管道，使用经过验证的方法构建可靠、安全和可扩展的系统，将生成式 AI 应用程序从原型开发到生产

随书免费：无 DRM 的 PDF 版本 + 访问 Packt 的下一代阅读器*

主要功能

• 了解如何将生成式 AI 应用从原型推向生产
• 应用评估、LLMOps 和 SRE 实践来构建可靠的系统
• 使用现代 AI 工程模式设计可扩展架构

书籍说明

超越原型并应用经过验证的工程原理，构建可投入生产的生成式 AI 应用程序。本书向您展示如何设计、评估、部署和扩展在现实环境中保持可靠、安全和可维护的人工智能系统。

Vibe 编码工具和编码助手可以轻松创建原型，但将它们投入生产是大多数团队面临的难题。本书由 Google 的一位 AI 工程师撰写，指导您确定用例范围，使其与业务目标保持一致，并扩展生成式 AI 的采用。您将学习如何使用离线指标、人机交互方法和统计测试来评估法学硕士，以及如何设计 RAG、向量数据库、代理和内存系统等架构。

您还将了解如何使用生产级代码、测试实践以及 DevOps、MLOps 和 LLMOps 工作流程来操作这些系统。本书涵盖了部署、扩展以及安全性、负责任的人工智能、可观察性和可靠性的关键考虑因素。

读完本书后，您将能够设计、部署和维护可扩展的生成式 AI 应用程序，运行 A/B 测试来衡量影响，并应用持久的工程原理，以便您的系统在原型阶段之后取得成功。

你将学到什么

• 设计端到端生成式 AI 产品工作流程
• 使用可靠的指标构建和评估 AI 系统
• 实施可投入生产的代码和测试实践
• 应用 LLMOps 和自动化进行 AI 部署
• 使用现代 AI 模式构建可扩展系统
• 通过可观察性和 SRE 实践提高可靠性
• 运行 A/B 测试以有效衡量产品影响

这本书适合谁

构建生成式 AI 应用程序的技术领导者、AI 工程师、数据科学家、软件工程师和架构师。寻求部署、扩展和维护生产级人工智能系统的工程经理、产品领导者和决策者也将从中受益。

目录

1. 构建原型
2. 评估
3. 关键架构
4. 从原型到生产
5. 从 DevOps 和 MLOps 迁移到 LLMOps
6. 部署您的应用
7. 道德与安全
8. 可观察性和可靠性
9. 维护您的应用程序
10. A/B 测试和在线实验