全栈人工智能工程师 – 生成式人工智能和法学硕士 III

资源截图

MP4 |视频：h264，1920×1080 |音频：AAC，44.1 KHz，2 Ch
语言：英语 |时长：6小时8米

你将学到什么

• 使用大型语言模型 (LLM)、转换器、嵌入和现代 AI 架构设计和构建可投入生产的生成式 AI 系统。
• 实施检索增强生成 (RAG) 管道，让法学硕士掌握外部知识、减少幻觉并实现企业级 AI 应用
• 利用工具调用、多步推理、记忆和人机交互控制来开发自主代理 AI 系统。
• 通过集成 FastAPI 后端、流式聊天界面、前端用户体验模式和状态内存管理来创建全栈 LLM 应用。
• 使用令牌优化、缓存策略、模型选择权衡和负载管理技术来优化 AI 系统的成本、延迟和可扩展性。
• 使用人工和自动评估方法评估和监控 LLM 输出，以确保准确性、相关性和忠实性。
• 通过实施护栏、输出过滤、基于策略的控制和负责任的 AI 框架来应用安全和治理最佳实践

要求

基本编程知识（Python 优先，但在专家级别不是强制要求）
对 API 或 Web 应用程序的一般了解（有帮助，不是必需）
对人工智能的好奇心并愿意构建实践项目

描述

“本课程包含人工智能的使用”本课程是专门为全栈人工智能工程师设计的生成式人工智能和大型语言模型 (LLM) 的综合实践之旅。与高级课程或纯理论课程不同，该课程重点关注现代人工智能系统如何在生产环境中实际构建、部署、优化和治理。您将超越简单的提示实验，学习如何使用法学硕士、嵌入、检索、代理、工具和全栈应用程序架构来设计可靠、可扩展和企业就绪的人工智能系统。本课程的每个部分都包括一个分步的动手实验室，确保您不仅理解概念，而且能在实际代码中实现它们。第 1 部分 — 生成式 AI 简介您将通过了解生成式 AI 与判别模型、生成系统为何重要以及它们如何在企业软件、医疗保健、金融和航空等现实行业中使用来建立强大的概念基础。动手实验室：比较判别模型与生成模型，使用基于 Transformer 的模型生成文本，并映射现实世界的生成 AI 用例。第 2 部分 — Transformer 架构和模型LLM 基础知识本节揭开了 Transformer 实际工作原理的神秘面纱，包括自注意力、位置编码以及编码器与解码器架构。您还将探索标记化、嵌入、上下文窗口，以及如何使用预训练、微调、指令调整和 RLHF 来训练 LLM。动手实验室：实现自我注意力概念，可视化标记化和嵌入，并在高水平上模拟 LLM 培训工作流程。第 3 节 – 实践中的大型语言模型您将与流行的 LLM 系列（包括 GPT、Claude、Gemini、LLaMA、Mistral 和 Falcon）进行实践，并学习如何根据质量、成本、延迟和用例要求选择正确的模型。动手实验室：构建多模型评估工具，测试幻觉和偏差，并使用温度、top-p 和 max 令牌集成 LLM API。第 4 部分 — 工程师的提示工程本部分将提示工程作为一门软件工程学科进行教学，涵盖系统、用户和助理角色、零样本、单样本和少样本提示，以及思想链、自洽和基于约束的提示等高级技术。动手实验室：设计强大的提示模板，防御提示注入，并实现输入/输出验证以实现安全提示。第 5 节 — 嵌入和嵌入语义搜索您将学习向量嵌入如何表示含义、余弦相似度和点积如何工作，以及如何使用分块策略、嵌入生成和基于相似性的检索来构建语义搜索管道。动手实验室：使用 FAISS 和 Chroma 构建语义搜索系统，比较分块策略，并评估检索准确性。第 6 节 — 检索增强生成 (RAG) 本节展示如何通过使用 RAG 架构、文档摄取管道、检索器生成器流和上下文窗口管理，通过将 LLM 与外部知识结合起来来消除幻觉。动手实验室：构建完整的 RAG 管道，实施混合搜索，应用重新排序策略，并通过引用执行多文档推理。第 7 节 — 工具调用和工具调用基于函数的法学硕士您将学习如何使用函数调用、结构化 JSON o 使法学硕士与真实系统交互输出和基于 API 的工具，使模型能够采取有意义的行动。动手实验室：构建使用工具的代理，实现无状态和有状态工具，添加验证和错误处理，并创建具有可观察性的多步骤工具链。第 8 节 – 代理 AI 系统本节重点介绍使用 ReAct、Planner-Executor 和多代理系统等架构构建具有规划、内存、执行和自我校正功能的自主 AI 代理。动手实验室：构建自主代理，实现长期记忆，启用任务分解，并添加人机交互 (HITL) 控制。第 9 节 — 全栈 LLM 应用程序开发您将使用基于 FastAPI 的后端、流响应和前端聊天界面将 AI 集成到实际应用程序中，同时管理跨会话的状态、内存和上下文。动手实验室：构建具有流式聊天、会话内存、持久存储和上下文修剪策略的全栈 LLM 应用程序。第 10 节 — 评估、成本和优化性能优化本节介绍如何使用人工和自动评估、准确性、相关性和可信度指标来衡量和优化人工智能系统，以及如何通过令牌优化、缓存和模型路由来降低成本。动手实验室：构建评估工具，实施响应缓存，比较模型层，并执行延迟和负载测试。第 11 节 — 道德、安全和道德负责任的人工智能您将学习如何使用护栏、输出过滤、基于策略的控制和企业治理框架负责任地部署人工智能，以确保安全、合规性和信任。动手实验室：实施安全防御、提示注入保护、输出验证和企业级人工智能治理工作流程。在本课程结束时，您将能够：构建生产就绪的生成式人工智能系统设计强大的提示和代理架构实施 RAG 管道和语义搜索开发全栈 LLM 应用程序优化成本、延迟和可扩展性部署安全、受治理的企业级人工智能

本课程适合谁

希望将 LLM 和生成式 AI 集成到实际应用中的软件工程师和全栈开发人员
希望在 LLM、RAG、代理 AI 和 AI 系统设计方面培养就业技能的有抱负的 AI 工程师
希望从模型训练转向端到端 AI 系统开发的数据工程师、数据科学家和 ML 工程师
对构建 LLM 支持的服务、聊天系统和 AI 驱动的工作流程感兴趣的后端和 API 开发人员
产品想要设计可扩展、可靠的人工智能产品的工程师和技术创始人
准备从事人工智能工程、应用人工智能或全栈人工智能开发工作的学生和应届毕业生