先修：12 几个数据点，怎样决定一条预测线；平面坐标与基础四则运算
上一章留下了两个旋钮：斜率a和截距b。转动任意一个，整组预测就按固定的模式变化；有的分量也可能保持不动，例如x＝0处的预测不随a改变。既然这三个数总由同一对参数决定，能不能把它们看成一个整体？
这样做不只是省写几个括号。我们会发现，两个旋钮能带着这个整体往某些方向移动，却不能把它送到任何想要的位置。向量让这种限制变得可见。
先把次序约定好
继续使用那件虚构玩具：滑杆位置依次为0、1、2厘米，指针读数依次为1、2、2厘米，模型仍是ŷ＝ax＋b。本文运算先使用按厘米记录的数值；读回实际量时，再带上厘米。a表示厘米与厘米之比，b的数值则对应以厘米计的截距。
把输入、观测和预测各自排成一组，用粗体表示整个组：
x＝(0,1,2)，y＝(1,2,2)，ŷ＝(b,a＋b,2a＋b)。
这些括号都依次对应第一、第二、第三条记录，即滑杆位置0、1、2。y中的三个数不是同一个样本的三种特征，而是三条记录各自的指针读数。这个含义后面不能悄悄换掉。
本章所说的实数向量，就是一组有次序的实数。组内各数叫分量，也叫坐标。两个向量相等，要求分量数相同，且对应位置的数都相等；(1,2,2)与(2,1,2)通常表示不同的向量。1
所有这样的三元组组成的集合记作ℝ³，读作“三维实数空间”。ℝ表示实数，右上角的3表示每组有三个坐标。这里的三维先是三个数值位置，不必想成房间的长、宽、高。两元组组成ℝ²，更多记录也可以组成更长的向量。
例如，补记第四个滑杆位置，观测向量就要补一个坐标。增加的是一条记录，并不是给玩具增加一个物理方向。三维以后难以直接画箭头，也不妨碍继续使用逐坐标的定义；计算依靠对应项，而不是依靠眼睛能否想象整个空间。
若只把观测改排成(2,1,2)，却保留预测原顺序，就拿第二条观测去比较第一条预测了。重新排序当然可以，但输入、观测、预测和其他逐条信息必须同步移动。向量保存次序，不会替我们检查次序是否弄错。
把三次运算写成一次
上一章的候选B取a＝1/2、b＝1，预测向量是ŷB＝(1,3/2,2)，紧随向量名的B表示“属于候选B”。残差仍按“观测减预测”计算。向量减法就是逐坐标相减：
rB＝y−ŷB＝(1−1,2−3/2,2−2)＝(0,1/2,0)。
r是残差向量。它的第二个分量说明B在第二条记录上预测偏低1/2厘米。括号没有把三种偏差混成一个总数，反而保留了每次偏差的去向。
加法也逐坐标进行。设u＝(1,1,1)，再把B的每个预测都提高1/6厘米，就得到：
ŷB＋(1/6)u＝(1＋1/6,3/2＋1/6,2＋1/6)＝(7/6,5/3,13/6)。
这正是上一章的候选C。式子里的(1/6)u＝(1/6,1/6,1/6)，展示了数乘：一个实数乘向量，就是用这个数乘每个分量。参与数乘的实数也叫标量，用来与整组数区别。
乘2得到每个分量的两倍，乘−1得到每个分量的相反数，乘0得到全为0的一组。三维的零向量写作0＝(0,0,0)，表示三个位置都没有变化。减法也可以理解成加上相反向量，因此y−ŷ＝y＋(−1)ŷ。
图1：整组操作没有省掉任何一条记录，只把同一种操作一起写出。图中预测和残差的数值都以厘米计。
向量的相等也给“完全拟合”一个严格说法：只有残差向量等于零向量，三个预测才全部吻合。C的残差为(−1/6,1/3,−1/6)，分量之和虽是0，向量却不是零向量。把一串数加成一个数会丢掉信息；保留整组，可以继续追问偏差集中在哪条记录。
这里能相加，是因为对应项有约定好的含义与单位。把三元组与二元组相加，会缺一个对应项；把温度数值与长度数值直接相加，即使程序肯执行，也没有因此获得合理的现实解释。
箭头怎样代表一串数
暂时离开玩具，画一张二维方格纸。约定向右为第一坐标的正方向、向上为第二坐标的正方向，每格表示1厘米。向量(2,1)可以画成从原点出发、向右2格再向上1格的箭头。
从点(1,1)走到(3,2)，位移也是(3−1,2−1)＝(2,1)。两支箭头起点不同，却表达同一位移。只要不改变大小和方向，整支箭头可以平移。2
但点(3,2)与位移(2,1)不是一回事：前者报告“相对于原点在哪里”，后者报告“从起点到终点改变多少”。把位移箭头移到原点，只是让终点坐标恰好与位移分量相同，便于读数。
图2：左右两图各自在固定的等比例方格中绘制。箭头可平移，坐标轴方向和每格单位不能跟着偷偷变化。
接着走位移(−1,2)，就是向左1格、向上2格。两段首尾接起来，总位移为(2,1)＋(−1,2)＝(1,3)。这是逐坐标加法的图像：左右变化相加，上下变化也相加。
对非零向量，乘正数保持方向，乘负数反向；乘数的绝对值决定箭头伸缩的倍数。零向量的起点和终点重合，没有唯一方向，所以不能说“每个向量都指向某处”。
坐标还需要参照约定。同一位移，若把每格从1厘米改成1毫米，数字就变成原来的10倍；若转动坐标轴，它沿两个轴的分量也会改变。箭头的位置可以平移，不意味着描述箭头的坐标体系可以省略。
两个旋钮各带来一种变化
回到三条玩具记录。固定b，让a增加一个数，三个预测分别增加它的0倍、1倍和2倍；固定a，让b增加一个数，三个预测都增加同样的量。因此x＝(0,1,2)与u＝(1,1,1)给出两种调整模式：
ŷ＝ax＋bu
＝a(0,1,2)＋b(1,1,1)
＝(0,a,2a)＋(b,b,b)
＝(b,a＋b,2a＋b)。
这不是另加的模型，而是原来三条预测的整体写法。它的三个坐标仍由同一组输入位置决定。先对给定向量分别数乘，再相加，得到的结果叫它们的线性组合；a、b是这个组合的系数。
“线性组合”并不要求系数为正，也不要求它们加起来等于1。本例暂时允许a、b取任意实数，讨论的是模型在数值上能表达什么；装置是否允许负读数等实际限制，需要另行加入。
设Δa、Δb分别表示a、b的改变量，Δ读作“德尔塔”，这里表示新值减旧值。预测的改变量于是为：
Δŷ＝Δax＋Δbu＝(Δb,Δa＋Δb,2Δa＋Δb)。
比如Δa＝1/2、Δb＝−1，得到Δŷ＝(−1,−1/2,0)。第三处预测完全不动，前两处却都下降。两个旋钮能互相抵消部分影响，却仍在共同约束三个位置。
这些整体运算为什么可靠？因为它们继承了分量里的实数运算规则。设v、w是同样长的向量，vᵢ、wᵢ表示第i个分量，i就是位置编号；c是一个实数。那么c(v＋w)的第i项是c(vᵢ＋wᵢ)，按实数分配律等于cvᵢ＋cwᵢ，恰好是cv＋cw的第i项。每一项都相等，两个向量就相等。
同理，逐项使用vᵢ＋wᵢ＝wᵢ＋vᵢ，就得到v＋w＝w＋v。因此本例中，先调a再调b，或先调b再调a，只要改变量相同，最终预测也相同。我们没有靠图形的外观猜这个结论。
所有能调出的结果是什么形状
把a、b的所有实数取值都放进ax＋bu，得到的全部向量叫作x与u的张成集合，常写为span{x,u}；span是“张成”的记号，花括号里列出用于组合的向量。3
只用x的倍数，得到一条经过原点的直线；再加入u的倍数，就可以沿另一种方向移动。u不可能是x的某个倍数，因为x的第一项为0，任何倍数仍为0，而u的第一项为1。这两种不共线的方向，在三维空间中张成一个过原点的平面。令a＝b＝0就得到原点，负系数则让平面继续向反方向延伸。
也不要把a、b的参数平面与这个预测平面混在一起。(1/2,1)是一对旋钮设置，只有两个坐标；(1,3/2,2)是这对设置带来的三次预测，有三个坐标。前者告诉我们怎样操作，后者告诉我们整批得到什么。
这个平面不是上一章画滑杆位置和指针读数的纸面。上一章图上的一个点代表一条观测；此处空间中的一个点，代表三条记录的一整组预测。它的三个坐标轴分别对应第一、第二、第三处预测。
图3：左图是三维空间投到纸面的示意，只画出平面的一块有限区域；屏幕角度和长度不能用来判断空间夹角或距离。右侧代数关系用于准确检验归属。
不用看图，我们也能认出平面上的点。设p＝(p₁,p₂,p₃)表示任意一组预测，下标1、2、3对应三条记录。对于模型给出的p，总有：
p₂＝a＋b＝b＋(2a＋b)/2＝(p₁＋p₃)/2。
也就是说，中项必须等于两端平均。反过来，若一个三元组满足这个条件，取b＝p₁、a＝p₂−p₁，前两项立即吻合，第三项则为2p₂−p₁＝p₃。因此这个条件既没有漏掉可表达的预测，也没有混进不可能的预测。
观测y＝(1,2,2)的中项是2，两端平均是3/2，不满足条件，所以它不在这个平面上。无论怎样调两个旋钮，都无法让预测与观测完全重合。上一章的“三条方程不相容”，现在有了同一件事的几何说法。3
B和C都在平面内，它们之间的改变量是(1/6)u。但“在平面内”只回答可不可表达，没有回答谁更接近观测。上一章已算出C比B的残差平方和小，仍未证明C胜过所有候选；那个问题留到第17章。
整体表示之后还要问什么
多条记录打包以后，一次加法可以表示批量校正，一次相减可以保存整批残差。这里的方便来自明确的对应关系：每个坐标是谁、按什么单位记录、采用怎样的顺序，都已经约定。
在数据分析或AI中，也常把数字排列成向量。不过，有的向量收集一批样本的同一读数，有的收集一个样本的多项特征，有的来自模型学到的编码；它们的坐标含义并不相同。本文推导能迁移的是“明确坐标后进行整体运算”的方法，不能直接把玩具的解释搬过去。
尤其不能把类别编号的差当成现实距离。若给三种颜色编号1、2、3，3−1＝2只是编码之间的算术；换一套编号就会改变结果，并不能据此说某两种颜色更相似。向量本身也不天然保存语义，相似性要靠表示方法、比较规则和实际检验来支持。
这一章先解决“有哪些可能的整体”。当我们还想问两个整体相差多大、某种调整怎样配合另一种调整，就需要更明确的比较工具。下一章从向量的点积与长度继续，把几何直觉变成能够计算的规则。
顺手试一下
题目1： 从B的参数a＝1/2、b＝1出发，让a减少1/2、b增加1/2。写出预测改变量、新预测向量与新残差向量。若交换两个旋钮的调整顺序，结果是否改变？各分量仍按滑杆位置0、1、2排列。
提示：用Δŷ＝Δax＋Δbu，然后把改变量加到B的预测上。残差仍是观测减预测。
参考答案：Δŷ＝(−1/2)(0,1,2)＋(1/2)(1,1,1)＝(1/2,0,−1/2)。新预测为(3/2,3/2,3/2)，对应a＝0、b＝3/2；新残差为(−1/2,1/2,1/2)，实际量均以厘米计。交换调整顺序不改变结果，因为两个改变量向量相加满足交换律。
题目2： 保持原来的三个滑杆位置，判断q＝(2,3,4)与s＝(2,4,4)能否成为某组a、b给出的预测。能表达时写出参数，不能表达时给出确切理由。这里数字仍按厘米记录。
**提示：**先检查中项是否等于两端平均；能通过检验的三元组，可取b为第一项、a为第二项减第一项。
参考答案： q满足3＝(2＋4)/2，取a＝1、b＝2，便有ax＋bu＝(2,3,4)。s的中项是4，两端平均却是3，因此无法表达；若坚持前两项，则b＝2、a＝2，第三项会成为6，而不是4。
参考与延伸
1 佐治亚理工学院，Dan Margalit、Joseph Rabinoff，《Interactive Linear Algebra》，2.1 Vectors。用于核对数值向量、逐坐标运算与线性组合的定义。
2 莱斯大学OpenStax，《Calculus Volume 3》，2.1 Vectors in the Plane。用于核对等价位移箭头、首尾相接、数乘与零向量的方向例外。
3 佐治亚理工学院，《Interactive Linear Algebra》，2.2 Vector Equations and Spans。用于核对张成集合、两种不共线方向张成平面，以及向量方程与逐项方程的对应。
本文的玩具读数沿用第12章的虚构教学数据，算例与图解独立编排；参考资料用于核对概念。与MIT讲义中同形算例的关系，见第17章说明。
作者：Jiancheng Wang · 数学之美（独立原创）