0.2 结构:七大板块
本书可以归纳为七大板块——向量、矩阵、向量空间、矩阵分解、微积分、空间几何、数据,如图0.2所示。
图0.2 《矩阵力量》板块布局
向量
“向量”部分首先介绍向量这个多面手在数据、矩阵、几何、统计、空间等领域中扮演的角色,第2章讲解各种与向量相关的运算法则。
第3章专门讲解向量范数,向量范数无非就是一种描述向量“大小”的尺度。请大家格外注意LP范数与“距离度量”“超椭圆”等数学概念的联系。
矩阵
矩阵有两大功能:表格、映射。“矩阵”这个版块首先介绍了关于矩阵的各种计算。各种计算中,矩阵乘法居于核心位置。请大家务必掌握矩阵乘法的两个视角。
此外,第5章介绍了大量矩阵乘法形态,以及它们的应用场合。希望大家一边学习本书后续内容,一边回顾第5章的矩阵乘法形态。第6章介绍了分块矩阵,请大家格外留意分块矩阵的乘法规则。
向量空间
“向量空间”这个版块主要有三大主题——空间、几何转换、正交投影。
第7章中我们用RGB给向量空间“涂颜色”,帮助大家理解向量空间的相关概念。第8章讲解以线性变换为主的几何变换,大家务必掌握平移、投影、旋转、缩放这四类几何变换。鉴于其重要性,接下来用两章内容讲解正交投影。第9章主要从几何视角介绍正交投影,第10章从数据角度讲解正交投影。
第10章是本书的一个分水岭,这一章使用了前九章大部分线性代数工具,并开启了“矩阵分解”这个版块。因此,如果大家阅读第10章感到吃力,请务必重温前九章内容。
矩阵分解
“矩阵分解”好比代数中的“因式分解”,矩阵分解也可以理解为特殊的矩阵乘法。矩阵分解是很多数据科学、机器学习算法的基础,因此本书分配了六章的篇幅讲解矩阵分解。大家务必要掌握特征值分解(第13、14章)和奇异值分解(第15、16章)相关知识。
学习这六章的“诀窍”就是几何视角!大家要从几何视角理解不同矩阵的分解。本书之后还会介绍理解矩阵分解的其他视角,如优化视角、空间视角、数据视角等。
微积分
有了线性代数工具,我们可以轻松地把微积分从一元推广到多元。本书第17章主要讲解多元微分,请大家务必掌握梯度向量、方向性导数、多元泰勒展开这三个工具。
第18章则接力《数学要素》第19章,继续探讨如何用拉格朗日乘子法解决“有约束优化问题”。此外,第18章还介绍了观察特征值分解、奇异值分解、正交投影的“优化视角”等。
空间几何
第19、20、21三章主要介绍如何用线性代数工具解决空间几何问题。第19章将直线扩展到了超平面。第20章用线性代数工具重新分析圆锥曲线,请大家格外注意“缩放→旋转→平移”这一连串几何操作,以及它们和多元高斯分布概率密度函数的关系。第21章将曲面和正定性联系起来,并介绍正定性在优化问题求解中扮演的角色。
数据
本书最后四章以数据收尾。第22章用线性代数工具再次解释了统计中的重要概念。
第23、24、25三章是“数据三部曲”。第23章从奇异值分解引出四个空间。第24章从数据、几何、空间、优化等视角总结了本书前文介绍的矩阵分解内容。第25章展望了数据及线性代数工具在数据科学和机器学习领域的几个应用场景。
这部分内容既是本册所有核心内容的总结,也为《统计至简》一册做了内容预告和铺垫。