大型语言模型的数学

大型语言模型的数学，
构建现代人工智能的人不仅仅是工程师。他们是一位物理学家，注意到扩散方程是倒退的。一位有竞争力的程序员意识到注意力只是软字典查找。一位统计学家在她研究多年的数据中发现了隐藏的双重血统。这本书讲述了这些故事，然后向您展示了它们背后的数学原理。

十六章中的每一章都以人类时刻开始：迫使人们重新思考的竞赛结果、变成证明的物理直觉、意外揭示了某些真理的失败实验。该理论是在上下文中得出的，而不是在真空中得出的。

然后，在每个方程式之后，都会发生大多数教科书从未发生过的两件事。一个名为“它的作用”的框用简单的语言解释了该公式，就像您向聪明的朋友描述它一样。名为“阅读公式”的第二个框按顺序浏览每个符号，解释如果更改它会发生什么变化以及为什么它是这样写的。

数学是真实的。十六章涵盖了全部内容：近似理论、优化、泛化、变压器、扩散模型、神经算子、不确定性量化。这些都没有被简化。所有这些都得到了解释。

中心论点：数学结构实际上解释了深度学习。没有规模。不是直觉。一旦有人向您展示了如何操作，这些公式就是可读的。

除了好奇心和愿意花足够长的时间坐在方程式上以理解它之外，没有任何先决条件。