Lp范数

维基百科,自由的百科全书
跳转到导航 跳转到搜索

<math>L_p</math>-范数(英语:<math>L_p</math>-norm,亦称 <math>\ell_p</math>-范数、<math>p</math>-范数)是向量空间中的一组范数。<math>L_p</math>-范数与幂平均有一定的联系。它的定义如下:

<math>L_p(\vec x) = \lVert\vec x\rVert_{p} = \Bigl(\sum_{i = 1}^{n}|x_{i}|^{p}\Bigr)^{1 / p},\qquad\vec x = \{x_1, x_2, \ldots, x_n\},\,p\geqslant 1.</math>

p 的不同取值[编辑]

File:Unit Circle of Lp-norm, in R2 space.png
图中的<math>q</math>即是<math>L_p</math>范数中的<math>p</math>。这是当<math>p</math>取不同值时,在<math>\mathbb R^{2}</math>空间上的<math>L_p</math>-范数等高线的其中一条。该图展现了各<math>L_p</math>-范数的形状。
  • x_{i}[来源请求]
  • <math>p = 0</math>:<math>\lVert\vec x\rVert_0 = \sum_{i=1}^{n} \left[x_i \neq 0\right]</math>,也就是所有 <math>x_i</math> 中,不等于零的个数。注意,这里的 <math>L_0</math>-范数并非通常意义上的范数(不满足三角不等式次可加性)。[1]
  • <math>p = 1</math>:<math>\lVert\vec x\rVert_1 = \sum\limits_{i = 1}^{n}|x_i|</math>,即 <math>L_1</math>-范数是向量各分量绝对值之和,又称曼哈顿距离
  • <math>p = 2</math>: <math>\lVert\vec x\rVert_2 = \sqrt{\sum\limits_{i = 1}^{n}|x_i|^{2}}</math>,此即欧氏距离
  • <math>p = +\infty</math>: <math>\lVert\vec x\rVert_\infty = \lim_{p \to +\infty}\Bigl(\sum\limits_{i = 1}^{n}|x_{i}|^{p}\Bigr)^{1 / p} = \max_{i}|x_i|</math>,此即无穷范数最大范数,亦称切比雪夫距离

在机器学习中的应用[编辑]

机器学习中,为了对抗过拟合、提高模型的泛化能力,可以通过向目标函数当中引入参数向量的 <math>L_p</math>-范数来进行正则化。其中最常用的是引入 <math>L_1</math>-范数的 <math>L_1</math>-正则项和引入 <math>L_2</math>-范数的 <math>L_2</math>-正则项;前者有利于得到稀疏解,后者有利于得到平滑解

参考文献[编辑]

  1. ^ 但在 <math>\mathbb R^{1}</math> 当中,它就是欧氏距离;在 <math>\mathbb R^{0}</math> 当中,它是平凡的。