矩阵的范数怎么求(深度学习中的线性代数)

矩阵的范数怎么求(深度学习中的线性代数) 易混基本定义 标量:独立一个数空间向量:一行/行数引流矩阵:二维数组张量:一般指多维(0 维张量是标量,1 维张量是空间向量,2 维张量是引流矩...

矩阵的范数怎么求(深度学习中的线性代数)

易混基本定义

  • 标量:独立一个数

  • 空间向量:一行/行数

  • 引流矩阵:二维数组

  • 张量:一般指多维(0 维张量是标量,1 维张量是空间向量,2 维张量是引流矩阵)

  • 转置:沿主对角线伸缩

在 Numpy 中界定引流矩阵的方式,及其开展转置的方式:

importnumpyasnpa=np.array([[1,2,3],[4,5,6]])a=a.reshape(3,2)print(a)[[12][34][56]]复制代码

基础算术关联

与高数中矩阵相乘內容一致:

a=np.array([[1,2],[3,4]])b=np.array([[5,6],[7,8]])print(a*b)print(a.dot(b))print(np.dot(a,b))print(np.linalg.inv(a))#星(*)[[512][2132]]#点乘[[1922][4350]]#点乘[[1922][4350]]#逆运算[[-2.1.][1.5-0.5]]复制代码

范数

范数是一个涵数,用以考量长短尺寸的一个涵数。数学课上,范数包含向量范数和矩阵范数。

向量范数

大家先探讨空间向量的范数。空间向量是有方位有尺寸的,这一尺寸就用范数来表明。

深度学习中的线性代数


严苛实际意义上而言,范数是考虑下述特性的随意涵数:

深度学习中的线性代数


  • 当 p=2 时,范数(,可简化写出)称之为欧几里得范数,能够测算间距。可是大家见到这儿有一个开方运算,因而为了更好地除掉这一开根号,大家有可能求的是范数的平方米,即范数,这便会降低一次对外开放计算,在后面提及的损失函数中,范数和平方米范数都出示了同样的提升总体目标,因而平方米范数更常见,测算起來也更简易,能够根据测算,这速率就迅速了。

  • 当 p=1 时,范数()是空间向量各原素平方根之和,在深度学习行业,针对区别 0 和非 0 而言,范数比范数更强用。

  • 当 p=0 时,范数事实上并不是一个范数,大部分提及范数的地区都是会注重说这不是一个真实实际意义上的范数,用于表明这一空间向量中有多少个非 0 原素,可是事实上它是十分有效的,在深度学习中的正则化和稀疏编码中有运用。在一个事例中是那么说的:分辨登录名和登陆密码是不是恰当,登录名和密码是2个空间向量,时,则登录成功,时,登录名和登陆密码有一个不正确,时,登录名和登陆密码都不正确。我们知道有这样,在日后见到相关内容时了解就好了。

  • 当 p 为无穷时,范数也被称作无穷范数、较大 范数。表明空间向量中原素平方根中较大 的。

矩阵范数

针对矩阵范数,大家只聊一聊 Frobenius 范数,通俗一点说便是引流矩阵中全部原素的平方和再开根号,也有别的的定义方法,以下,在其中表明的共轭转置,tr为迹;表明的奇异值:


  • 发表于 2021-04-17 13:29
  • 阅读 ( 920 )
  • 分类:互联网

0 条评论

请先 登录 后评论
缅小杨
缅小杨

701 篇文章

你可能感兴趣的文章

相关问题