写点什么

看图学 NumPy:掌握 n 维数组基础知识点,看这一篇就够了

发布于: 2021 年 01 月 13 日

摘要:NumPy 是 Python 的最重要的扩展程序库之一,也是入门机器学习编程的必备工具。国外有位程序员讲 NumPy 的基本运算以图解的方式写下来,让学习过程变得轻松有趣。


NumPy 是 Python 的最重要的扩展程序库之一,也是入门机器学习编程的必备工具。然而对初学者来说,NumPy 的大量运算方法非常难记。



最近,国外有位程序员讲 NumPy 的基本运算以图解的方式写下来,让学习过程变得轻松有趣。在 Reddit 机器学习社区发布不到半天就收获了 500+赞。



下面就让我们跟随他的教程一起来学习吧!


教程内容分为向量 (一维数组)、矩阵 (二维数组)、三维与更高维数组 3 个部分。


Numpy 数组与 Python 列表


在介绍正式内容之前,先让我们先来了解一下 Numpy 数组与 Python 列表的区别。


乍一看,NumPy 数组类似于 Python 列表。它们都可以用作容器,具有获取(getting)和设置(setting)元素以及插入和移除元素的功能。


两者有很多相似之处,以下是二者在运算时的一个示例:



和 Python 列表相比,Numpy 数组具有以下特点:


更紧凑,尤其是在一维以上的维度;向量化操作时比 Python 列表快,但在末尾添加元素比 Python 列表慢。



在末尾添加元素时,Python 列表复杂度为 O(1),NumPy 复杂度为 O(N)


向量运算


向量初始化


创建 NumPy 数组的一种方法是从 Python 列表直接转换,数组元素的类型与列表元素类型相同。



NumPy 数组无法像 Python 列表那样加长,因为在数组末尾没有保留空间。


因此,常见的做法是定义一个 Python 列表,对它进行操作,然后再转换为 NumPy 数组,或者用 np.zeros np.empty 初始化数组,预分配必要的空间:



有时我们需要创建一个空数组,大小和元素类型与现有数组相同:



实际上,所有用常量填充创建的数组的函数都有一个_like 对应项,来创建相同类型的常数数组:



在 NumPy 中,可以用 arange 或者 linspace 来初始化单调序列数组:



如果需要类似[0., 1., 2.]的浮点数组,可以更改 arange 输出的类型:arange(3).astype(float)。


但是有更好的方法:arange 函数对数据类型敏感,如果将整数作为参数,生成整数数组;如果输入浮点数(例如 arange(3.)),则生成浮点数组。


但是 arange 在处理浮点数方面并不是特别擅长:



这是因为 0.1 对于我们来说是一个有限的十进制数,但对计算机而言却不是。在二进制下,0.1 是一个无穷小数,必须在某处截断。这就是为什么将小数部分加到步骤 arange 通常是一个不太好的方法:我们可能会遇到一个 bug,导致数组的元素个数不是我们想要的数,这会降低代码的可读性和可维护性。


这时候,linspace 会派上用场。它不受舍入错误的影响,并始终生成要求的元素数。


出于测试目的,通常需要生成随机数组,NumPy 提供随机整数、均匀分布、正态分布等几种随机数形式:



向量索引


一旦将数据存储在数组中,NumPy 便会提供简单的方法将其取出:



上面展示了各式各样的索引,例如取出某个特定区间,从右往左索引、只取出奇数位等等。


但它们都是所谓的 view,也就是不存储原始数据。并且如果原始数组在被索引后进行更改,则不会反映原始数组的改变。


这些索引方法允许分配修改原始数组的内容,因此需要特别注意:只有下面最后一种方法才是复制数组,如果用其他方法都可能破坏原始数据:



从 NumPy 数组中获取数据的另一种超级有用的方法是布尔索引,它允许使用各种逻辑运算符,来检索符合条件的元素:



注意:Python 中的三元比较 3<=a<=5 在 NumPy 数组中不起作用。


如上所述,布尔索引也会改写数组。它有两个常见的函数,分别是 np.where np.clip



向量运算


算术运算是 NumPy 速度最引入注目的地方之一。NumPy 的向量运算符已达到 C++级别,避免了 Python 的慢循环。


NumPy 允许像普通数字一样操作整个数组(加减乘除、整除、幂):



△ 和 Python 中一样,a//b 表示 div b(整除),x**n 表示 xⁿ

向量还可以与标量进行类似的运算,方法相同:



大多数的数学函数都有 NumPy 对应项用于处理向量:



向量的点积、叉积也有运算符:



我们也可以进行三角函数、反三角函数、求斜边运算:



数组可以四舍五入为整数:



△ floor 取下界;ceil 取上界;round 为四舍六入五取偶

NumPy 还可以执行以下基本的统计运算(最大最小值、平均值、方差、标准差):



不过排序函数的功能比 Python 列表对应函数更少:



搜索向量中的元素


与 Python 列表相反,NumPy 数组没有 index 方法。



  • 查找元素的一种方法是 np.where(a==x)0,它既不优雅也不快速,因为要查找的项需要从开头遍历数组的所有元素。

  • 更快的方式是通过 Numba 中的 next((i[0] for i, v in np.ndenumerate(a) if v==x), -1)来加速。

  • 一旦对数组进行排序,情况就会变得更好:v = np.searchsorted(a, x); return v if a[v]==x else -1 的复杂度为 O(log N),确实非常快,但是首先需要 O(N log N)的排序时间。


比较浮点数


函数 np.allclose(a, b)用于比较具有给定公差的浮点数组:



  • np.allclose 假设所有的比较数字的等级是 1 个单位。例如在上图中,它就认为 1e-9 和 2e-9 相同,如果要进行更细致的比较,需要通过 atol 指定比较等级 1:np.allclose(1e-9, 2e-9, atol=1e-17) == False。

  • math.isclose 进行比较没有假设前提,而是基于用户给出的一个合理 abs_tol 值:math.isclose(0.1+0.2–0.3, abs_tol=1e-8) == True。


除此之外 np.allclose 在绝对和相对公差公式中还存在一些小问题,例如,对某些数存在 allclose(a, b) != allclose(b, a)。这些问题已在 math.isclose 函数中得到解决。


矩阵运算


NumPy 中曾经有一个专用的类 matrix,但现在已弃用,因此下面将交替使用矩阵和 2D 数组两个词。


矩阵初始化语法与向量相似:



这里需要双括号,因为第二个位置参数是为 dtype 保留的。


随机矩阵的生成也类似于向量的生成:



二维索引语法比嵌套列表更方便:



和一维数组一样,上图的 view 表示,切片数组实际上并未进行任何复制。修改数组后,更改也将反映在切片中。


axis 参数


在许多操作(例如求和)中,我们需要告诉 NumPy 是否要跨行或跨列进行操作。为了使用任意维数的通用表示法,NumPy 引入了 axis 的概念:axis 参数实际上是所讨论索引的数量:第一个索引是 axis=0,第二个索引是 axis=1,等等。


因此在二维数组中,如果 axis=0 是按列,那么 axis=1 就是按行。



矩阵运算


除了普通的运算符(如+,-,,/,//和)以元素方式计算外,还有一个 @*运算符可计算矩阵乘积:



在第一部分中,我们已经看到向量乘积的运算,NumPy 允许向量和矩阵之间,甚至两个向量之间进行元素的混合运算:



行向量与列向量


从上面的示例可以看出,在二维数组中,行向量和列向量被不同地对待。


默认情况下,一维数组在二维操作中被视为行向量。因此,将矩阵乘以行向量时,可以使用(n,)或(1,n),结果将相同。


如果需要列向量,则有转置方法对其进行操作:



能够从一维数组中生成二位数组列向量的两个操作是使用命令 reshape 重排和 newaxis 建立新索引:



这里的-1 参数表示 reshape 自动计算第二个维度上的数组长度,None 在方括号中充当 np.newaxis 的快捷方式,该快捷方式在指定位置添加了一个空 axis。


因此,NumPy 中总共有三种类型的向量:一维数组,二维行向量和二维列向量。这是两者之间显式转换的示意图:



根据规则,一维数组被隐式解释为二维行向量,因此通常不必在这两个数组之间进行转换,相应区域用灰色标出。


矩阵操作


连接矩阵有两个主要函数:



这两个函数只堆叠矩阵或只堆叠向量时,都可以正常工作。但是当涉及一维数组与矩阵之间的混合堆叠时,vstack 可以正常工作:hstack 会出现尺寸不匹配错误。


因为如上所述,一维数组被解释为行向量,而不是列向量。解决方法是将其转换为列向量,或者使用 column_stack 自动执行:



堆叠的逆向操作是分裂:



矩阵可以通过两种方式完成复制:tile 类似于复制粘贴,repeat 类似于分页打印。



特定的列和行可以用 delete 进行删除:



逆运算为插入:



append 就像 hstack 一样,该函数无法自动转置一维数组,因此再次需要对向量进行转置或添加长度,或者使用 column_stack 代替:



实际上,如果我们需要做的就是向数组的边界添加常量值,那么 pad 函数就足够了:



Meshgrid


如果我们要创建以下矩阵:



两种方法都很慢,因为它们使用的是 Python 循环。在 MATLAB 处理这类问题的方法是创建一个 meshgrid



该 meshgrid 函数接受任意一组索引,mgrid 仅是切片,indices 只能生成完整的索引范围。fromfunction 如上所述,仅使用 I 和 J 参数一次调用提供的函数。


但是实际上,在 NumPy 中有一种更好的方法。无需在整个矩阵上耗费存储空间。仅存储大小正确的矢量就足够了,运算规则将处理其余的内容:



在没有 indexing=’ij’参数的情况下,meshgrid 将更改参数的顺序:J, I= np.meshgrid(j, i)—这是一种“ xy”模式,用于可视化 3D 图。


除了在二维或三维数组上初始化外,meshgrid 还可以用于索引数组:



矩阵统计


就像之前提到的统计函数一样,二维数组接受到 axis 参数后,会采取相应的统计运算:



二维及更高维度中,argmin 和 argmax 函数返回最大最小值的索引:



all 和 any 两个函数也能使用 axis 参数:



矩阵排序


尽管 axis 参数对上面列出的函数很有用,但对二维排序却没有帮助:



axis 绝不是 Python 列表 key 参数的替代。不过 NumPy 具有多个函数,允许按列进行排序:


1、按第一列对数组排序:a[a[:,0].argsort()]



argsort 排序后,此处返回原始数组的索引数组。


此技巧可以重复,但是必须小心,以免下一个排序混淆前一个排序的结果:


a = a[a[:,2].argsort()]a = a[a[:,1].argsort(kind=’stable’)]a = a[a[:,0].argsort(kind=’stable’)]


2、有一个辅助函数 lexsort,该函数按上述方式对所有可用列进行排序,但始终按行执行,例如:


  • a[np.lexsort(np.flipud(a[2,5].T))]:先通过第 2 列排序,再通过第 5 列排序;

  • a[np.lexsort(np.flipud(a.T))]:按从左到右所有列依次进行排序。



3、还有一个参数 order,但是如果从普通(非结构化)数组开始,则既不快速也不容易使用。


4、因为这个特殊的操作方式更具可读性和它可能是一个更好的选择,这样做的 pandas 不易出错:


  • pd.DataFrame(a).sort_values(by=[2,5]).to_numpy():通过第 2 列再通过第 5 列进行排序。

  • pd.DataFrame(a).sort_values().to_numpy():通过从左向右所有列进行排序


高维数组运算


通过重排一维向量或转换嵌套的 Python 列表来创建 3D 数组时,索引的含义为(z,y,x)。


第一个索引是平面的编号,然后才是在该平面上的移动:



这种索引顺序很方便,例如用于保留一堆灰度图像:这 a[i]是引用第 i 个图像的快捷方式。


但是此索引顺序不是通用的。处理 RGB 图像时,通常使用(y,x,z)顺序:前两个是像素坐标,最后一个是颜色坐标(Matplotlib 中是 RGB ,OpenCV 中是 BGR ):



这样,可以方便地引用特定像素:a[i,j]给出像素的 RGB 元组(i,j)。


因此,创建特定几何形状的实际命令取决于正在处理的域的约定:



显然,NumPy 函数像 hstack、vstack 或 dstack 不知道这些约定。其中硬编码的索引顺序是(y,x,z),RGB 图像顺序是:



△RGB 图像数组(为简便起见,上图仅 2 种颜色)

如果数据的布局不同,则使用 concatenate 命令堆叠图像,并在 axis 参数中提供显式索引数会更方便:



如果不方便使用 axis,可以将数组转换硬编码为 hstack 的形式:



这种转换没有实际的复制发生。它只是混合索引的顺序。


混合索引顺序的另一个操作是数组转置。检查它可能会让我们对三维数组更加熟悉。


根据我们决定的 axis 顺序,转置数组所有平面的实际命令将有所不同:对于通用数组,它交换索引 1 和 2,对于 RGB 图像,它交换 0 和 1:



有趣的是,(和唯一的操作模式)默认的 axes 参数颠倒了索引顺序,这与上述两个索引顺序约定都不相符。


最后,还有一个函数,可以在处理多维数组时节省很多 Python 循环,并使代码更简洁,这就是爱因斯坦求和函数 einsum



它将沿重复索引的数组求和。


最后,若要掌握 NumPy,可以前去 GitHub 上的项目——100 NumPy 练习题,验证自己的学习成果。


本文分享自华为云社区《看图学 NumPy:掌握 n 维数组基础知识点,看这一篇就够了》,原文作者:HWCloudAI 。

点击关注,第一时间了解华为云新鲜技术~


发布于: 2021 年 01 月 13 日阅读数: 35
用户头像

提供全面深入的云计算技术干货 2020.07.14 加入

华为云开发者社区,提供全面深入的云计算前景分析、丰富的技术干货、程序样例,分享华为云前沿资讯动态,方便开发者快速成长与发展,欢迎提问、互动,多方位了解云计算! 传送门:https://bbs.huaweicloud.com/

评论

发布
暂无评论
看图学NumPy:掌握n维数组基础知识点,看这一篇就够了