机器学习中的数学--第1章向量和它的朋友们

向量是指具有大小和方向的量，在物理学中，通常将向量称作矢量。其实我们在初中就接触过向量。表示每种力的带箭头的线段就是向量，箭头的方向表示向量的方向。线段的长度表示向量的大小。

相应地，没有方向的量，称为标量。

1.1向量家庭的基本成员

关于向量有许多概念。

1.1向量的表示和模长

在数学中，向量仍然可以用带箭头的线段来表示，如图1.2所示是一个在平面的直角坐标系中的向量。

注：向量未必是直的，也存在曲线的向量。

一般地，向量符号在印刷体中用粗体字母表示。

a   b   V  PQ

手写体应在字母加一个指赂右侧的小箭头。

   

其实使用不加任何修饰的普通字母或你自已发明的符号也一样，只能在上下文清楚地表达即可，对于向量的箭头表示法来说

半箭头和全箭头一样，表示的向量没什么区别，本书统一用半箭头。

向量是表示大小和方向的量，它并没有规定的起点和终点。所以相同的赂量可以画在任何位置。

两个向量者可以表示（-1，2）它们的方向和长度相同，可以说（-1，2）是一族赂量，有无限种几何表示法，实际上一族向量都是一个标准向量的平移得到。因为同族向量具有相同的性质，通常

为了简单起见，将标准向量以原点作为起点。

向量也有很多代数表示法，下面几种都可以表示同一种向量。

a=<x1,x2> =(x1,x2) ==

向量的大小称为向量的模，它是一个标量，在平面直角坐标系中，a的模长表示为：

有时候a的模长也称为a的二范数，这里|a|可不是绝对值，算是数学中的符号重用。

维度和分量

在机器学习中，经常把一个有n个特征的训练样本称为一个n的维向量，如何理解n维的概念

我们比较熟悉的空间概念是二维平台和三维空间。空间的每一维度都可以代表任意事物，这完全取决于你对每一个维度的定义。

多维空间只是个概念，不要试图在平面上通过几何的方式描述四维以及四维以上的空间。实际上多维空间很常，比如关系型数据库就可以看成一个多维空间。

表的每个字段代表了空间的一个维度。

可以看到，维度的内容不仅仅包含数量，同样也可以包含文字，只是为了能够计算，需要制定一些规则将文字转成数字。

n的空间用表示，上标n表示空间的维度，比如二维空间R2

向量在某一维度上的值称为向量在该维度上的分量，比如R3空间 a= （1，2，9），a 在三个维度的分量分别是1，2，9 

单位向量和零向量

所有分量都为0的向量是零向量，由于零向量被压缩成一个点，所以零向量没有方向。原点就是典型的零向量，零向量用大写字母O表示。也可以直接用0表示。