优化 GenAI 系统的速度和稳定性

MP4 |视频：h264，1280×720 |音频：AAC，44.1 KHz，2 Ch
级别：初学者 |类型： 电子学习 |语言： 英文+字幕 |时长：1小时6米41秒

你将学到什么

GenAI 系统面临着独特的生产挑战，例如延迟峰值、不可预测的成本和可靠性故障。在本课程中，优化 GenAI 系统以提高速度和稳定性，您将获得使 GenAI 应用程序投入生产的实践基础。首先，您将探索如何识别 GenAI 管道的预处理、推理和检索阶段的性能瓶颈。接下来，您将发现优化策略，包括量化、批处理和缓存，以提高速度、吞吐量和成本效率。最后，您将学习如何应用重试、回退和断路器等弹性模式，同时了解可扩展的部署策略。完成本课程后，您将具备开始构建更快、更稳定且更具成本效益的应用程序所需的 GenAI 系统优化技能和知识。