在现实世界的约束下使用 Amazon Bedrock 进行原型设计

MP4 |视频：h264，1280×720 |音频：AAC、44.1 KHz、2 Ch
级别：高级 |类型： 电子学习 |语言： 英文+字幕 |时长：32m 56s

你将学到什么

将生成式人工智能集成到应用程序中的开发人员常常低估调用大型语言模型的操作影响，包括成本、可变性和概率行为。在本课程中，在现实世界约束下使用 Amazon Bedrock 进行原型设计，您将能够在设计早期原型时将 Amazon Bedrock 作为托管、计量推理服务进行推理。首先，您将探索 Amazon Bedrock 如何在一致的 API 背后抽象出大规模推理基础设施，以及从开发人员的角度来看模型调用如何工作。接下来，您将发现为什么基础模型输出是概率性的，以及可变性和延迟如何影响系统行为。最后，您将学习如何在现实世界的限制下进行原型设计，同时考虑成本、可变性和操作权衡。学完本课程后，您将具备使用 Amazon Bedrock 作为托管推理服务所需的技能和知识，以评估推理何时以及如何为原型应用程序增加价值。