从头开始的变形金刚：Chatgpt 和谷歌翻译的核心

你将学到什么

• 了解如何从头开始构建深度学习：Transformer 模型
• 了解 Transformer 的工作原理以及它们在文本生成 AI 中的重要性
• 学习构建注意力机制，帮助 Transformers 关注重要信息
• 了解如何从头开始创建简单的语言模型
• 了解 Transformers 如何处理和理解语言

要求

高中数学基础知识（线性代数、概率和统计）
愿意学习和尝试新事物。

描述

在本课程中，您将学习如何从头开始构建 Transformer，该模型与为 ChatGPT、Claude、Google Translate 等提供支持的模型相同。 Transformer 是许多强大的 AI 应用程序的核心，了解它们的工作原理可以帮助您构建自己的语言模型或文本生成 AI 应用程序。我将引导您完成每个步骤，让您轻松理解这些模型的功能。您将从基础知识开始，包括 Transformer 堆栈背后的数学，并学习如何创建 Transformer 的构建块。我将介绍注意力机制、标记化和模型训练等关键概念。不需要事先有深度学习经验，因为我将一步一步地用简单的术语解释一切。在课程结束时，您将具备从头开始创建自己的 Transformer 模型的技能，而无需依赖预先构建的库。本课程非常适合任何对深度学习感兴趣并且对 GPT 和 Google Translate 等工具背后的技术感到好奇的人。无论您是初学者还是希望加深理解，本课程都将为您提供构建现代深度学习中最重要模型之一的实践方法。让我们开始学习如何从头开始构建它们！

本课程适合谁

想要学习如何构建文本生成人工智能模型，例如 ChatGPT、Llama、Google Translate 等…
没有深度学习或机器学习经验的初学者
对深度学习感兴趣并希望了解 Transformer