跡

在线性代数中，一個<math>n \times n</math>的矩陣<math>\mathbf{A}</math>的跡（或跡數），是指<math>\mathbf{A}</math>的主對角線（從左上方至右下方的對角線）上各個元素的總和，一般記作<math>\operatorname{tr}(\mathbf{A})</math>或<math>\operatorname{Sp}(\mathbf{A})</math>：

<math>\operatorname{tr}(\mathbf{A}) = \sum_{i=1}^n \mathbf{A}_{i, i} = \mathbf{A}_{1, 1} + \mathbf{A}_{2, 2} + \cdots + \mathbf{A}_{n, n} </math>

其中<math>\mathbf{A}_{i, j}</math>代表矩陣的第<math>i</math>行<math>j</math>列上的元素的值。一個矩陣的跡是其特徵值的總和（按代數重數計算）。

跡的英文為trace，是來自德文中的Spur這個單字（與英文中的Spoor是同源詞），在數學中，通常簡寫為「Sp」或「tr」。

例子

設有矩陣：

<math>\mathbf{A} = \begin{bmatrix} 3 & 5 & 1\\0 & 9 & 2\\7 & 6 & 4 \end{bmatrix}</math>

它的跡是：

<math>\operatorname{tr}(\mathbf{A}) = \operatorname{tr} \begin{bmatrix} 3 & 5 & 1\\0 & 9 & 2\\7 & 6 & 4 \end{bmatrix} = 3 + 9 + 4 = 16</math>

性質

线性函数

給定一個環<math>\mathbb{R}</math>，跡是一個從係數在環中的<math>n \times n</math>矩陣的空間<math>\mathcal{M}_n(\mathbb{R})</math>射到環<math>\mathbb{R}</math>之上的線性算子。也就是說，對於任兩個<math>n \times n</math>的矩陣<math>\mathbf{A}</math>、<math>\mathbf{B}</math>和純量<math>r</math>，都有：

<math>\mathrm{tr}(\mathbf{A} + \mathbf{B}) = \mathrm{tr}(\mathbf{A}) + \mathrm{tr}(\mathbf{B})</math>

<math> \mathrm{tr}(r \cdot \mathbf{A} ) = r \cdot \mathrm{tr}(\mathbf{A})</math>

更進一步來說，當<math>\mathbb{R}</math>是一個域時，跡數函數<math>\mathrm{tr}</math>是<math>n \times n</math>矩陣的空間<math>\mathcal{M}_n(\mathbb{R})</math>上的一個線性泛函。

由於一個矩陣<math>\mathbf{A}</math>的轉置矩陣<math>\mathbf{A}^T</math>的主對角線元素和原來矩陣的主對角線元素是一樣的，所以任意一個矩陣和其轉置矩陣都會有相同的跡：

<math> \mathrm{tr}(\mathbf{A} ) = \mathrm{tr}\left(\mathbf{A}^T \right)</math>

矩阵乘积的迹数

設<math>\mathbf{A}</math>是一個<math>n \times m</math>矩陣，<math>\mathbf{B}</math>是個<math>m \times n</math>矩陣，則：

<math> \mathrm{tr}(\mathbf{AB} ) = \mathrm{tr}(\mathbf{BA})</math>

其中<math>\mathbf{AB}</math>是一個<math>n \times n</math>矩陣，而<math>\mathbf{BA}</math>是一個<math>m \times m</math>矩陣。

上述的性質可以由矩陣乘法的定義證明：

<math>\mathrm{tr}(\mathbf{AB}) = \sum_{i=1}^n (\mathbf{AB})_{i, i} = \sum_{i=1}^n \sum_{j=1}^m \mathbf{A}_{i, j} \mathbf{B}_{j, i} = \sum_{j=1}^m \sum_{i=1}^n \mathbf{B}_{j, i} \mathbf{A}_{i, j} = \sum_{j=1}^m (\mathbf{BA})_{j, j} = \mathrm{tr}(\mathbf{BA})</math>

如果<math>\mathbf{A}</math>和<math>\mathbf{B}</math>都是<math>n \times n</math>的方形矩陣，那麼它們的乘積<math>\mathbf{AB}</math>和<math>\mathbf{BA}</math>也會是方形矩陣。因此，利用這個結果，可以推導出：計算若干個同樣大小的方形矩陣的乘積的跡數時，可以循環改變乘積中方形矩陣相乘的順序，而最終的結果不變。例如，有三個方形矩陣<math>\mathbf{A}</math>、<math>\mathbf{B}</math>和<math>\mathbf{C}</math>，則：

<math> \mathrm{tr}(\mathbf{ABC} ) = \mathrm{tr}(\mathbf{BCA}) = \mathrm{tr}(\mathbf{CAB})</math>

但是要注意：

<math> \mathrm{tr}(\mathbf{ABC} ) \neq \mathrm{tr}(\mathbf{ACB}) </math>

更一般地，乘積中的矩陣不一定要是方形矩陣，只要某一個循環改變後的乘積依然存在，那麼得到的跡數依然會和原來的跡數相同。

另外，如果<math>\mathbf{A}</math>、<math>\mathbf{B}</math>和<math>\mathbf{C}</math>是同樣大小的方陣而且還是對稱矩陣的話，那麼其乘積的跡数不只在循環置換下不會改變，而且在所有的置換下都不會改變：

<math> \mathrm{tr}(\mathbf{ABC} ) = \mathrm{tr}(\mathbf{BCA}) = \mathrm{tr}(\mathbf{CAB}) = \mathrm{tr}(\mathbf{ACB} ) = \mathrm{tr}(\mathbf{CBA}) = \mathrm{tr}(\mathbf{BAC})</math>

迹数的相似不变性

跡數擁有相似不變性。如果矩陣<math>\mathbf{A}</math>和<math>\mathbf{B}</math>相似的話，它們會有相同的跡。這一性質可使上面講過的循環性質來證明：

矩陣<math>\mathbf{A}</math>和<math>\mathbf{B}</math>相似也就是說存在可逆矩陣<math>\mathbf{P}</math>，使得<math> \mathbf{B} =\mathbf{P}\mathbf{A} \mathbf{P}^{-1}</math>

因此<math> \mathrm{tr}(\mathbf{B} ) = \mathrm{tr}(\mathbf{P}\mathbf{A} \mathbf{P}^{-1}) = \mathrm{tr}(\mathbf{P}^{-1} \mathbf{P}\mathbf{A}) = \mathrm{tr}(\mathbf{A})</math>

矩阵迹数和特征多项式

一个<math>n \times n</math>的方形矩阵<math>\mathbf{A}</math>的特征多项式<math>P_{A}(\lambda)</math>定义为<math>\mathbf{A}</math>减去<math>\lambda</math>倍的单位矩阵后所得到的矩阵的行列式：

<math>P_{A}(\lambda) = \det(\mathbf{A} - \lambda \mathbf{I})</math>

特征多项式是一个关于<math>\lambda</math>的n次多项式，它的常数项是<math>\mathbf{A}</math>的行列式的值，最高次项是<math>(-1)^n \lambda^n</math>，而接下来的n-1次项就是<math>(-1)^{n-1} \mathrm{tr}( \mathbf{A}) \lambda^{n-1}</math>，也就是说：

<math>P_{A}(\lambda) = (-1)^n \lambda^n + (-1)^{n-1} \mathrm{tr}( \mathbf{A}) \lambda^{n-1} + \cdots + \det(\mathbf{A})</math>

矩阵迹数与特征值

当系数域是代数闭域时（否则可以将系数域扩展到其代数闭包上来看），特征多项式<math>P_{A}(\lambda)</math>有n个根，它可以表达成：

<math>P_{A}(\lambda) = (-1)^n(\lambda - r_1)^{\alpha_1}(\lambda - r_2)^{\alpha_2} \cdots (\lambda - r_k)^{\alpha_k}</math>

其中的<math>r_1,r_2 \cdots r_k</math>是特征多项式的不同的根，而<math>\alpha_1,\alpha_2 \cdots \alpha_k</math>是这些根在特征多项式裡的重数，称为代数重数。显然，所有代数重数加起来等于n。一方面，特征多项式的根就是矩阵的特征值，而另一方面，借由根与多项式系数的关系可以知道：特征多项式的所有的根加起来等于矩阵的迹数。所以矩阵的迹数是矩阵的所有特征值（按照代数重数计算）的和。

<math>\mathrm{tr}( \mathbf{A}) = \alpha_1 r_1 + \alpha_2 r_2 + \cdots + \alpha_k r_k</math>

如果将矩阵写成它的若尔当标准型的话，也可以看出这一点，因为若尔当标准型的特征多项式的所有的根（包括重根）就是对角线上的所有元素。

如果不区分相同或不同的特征值的话，上述关系也可以写成：

<math>\mathrm{tr}( \mathbf{A}) = \lambda_1 + \lambda_2 + \cdots + \lambda_n</math>

其中的<math>\lambda_1,\lambda_2 \cdots \lambda_n</math>是矩阵的特征值。 而且有：

<math>\forall m \in \mathbb{N}, \mathrm{tr}( \mathbf{A}^m) = \lambda_1^m + \lambda_2^m + \cdots + \lambda_n^m</math>

線性映射的跡數

設系数域为<math>\mathbb{K}</math>的<math>\mathbb{V}</math>是一個有限維的向量空間，維數是n。給定任一線性映射<math>f : \mathbb{V}\rightarrow \mathbb{V}</math>，可以定義此一映射的跡數為其变换矩阵的跡，即選定<math>\mathbb{V}</math>的一個基底並用對應於此基底的一個方形矩陣描述<math>f</math>，再定義這個方形矩陣的跡數為<math>f</math>的跡數。這個定義下<math>f</math>的跡數和所選取的基無關：只需要注意到不同的基底的選取實際上等價於對變換矩陣做一次相似變換，而兩個相似的矩陣的跡數是一樣的。因此這樣的定義是自洽的。

另外一种定义涉及到行列式的性质。考虑<math>\mathbb{V}</math>的一个基底<math>\mathcal{B} = (e_1, e_2, \cdots , e_n)</math>，以及函数：

<math>Sp : \; \; \; \quad \mathbb{V}^n \qquad \; \quad \longrightarrow \quad \qquad \qquad \qquad \mathbb{K} \qquad \qquad \qquad, </math> <math>Sp :(x_1, x_2, \cdots , x_n) \longmapsto \sum_{i=1}^n \det(x_1, x_2, \cdots , f(x_i),\cdots ,x_n)</math>

根据行列式理论，这个函数也是一个行列式型的函数，也就是说存在一个只取决于<math>f</math>的量<math>\mathrm{Sp} (f)</math>，使得

<math>Sp(x_1, x_2, \cdots , x_n) = \mathrm{Sp} (f) \cdot \det(x_1, x_2,\cdots ,x_n)</math>

可以证明，这个纯量<math>\mathrm{Sp} (f)</math>就等于之前定义的<math>f</math>的跡數。

迹的梯度

由迹的定义可知迹可以看作是矩阵的实标量函数，所以我们可以通过求实标量函数的梯度来求迹的梯度。

单个矩阵

• A是m×m矩阵时，有<math>\frac { \partial \mathrm{tr}(\mathbf{A}) }{ \partial \mathbf{A} } ={ \mathbf{I} }_{ m }</math>
• m×m矩阵A可逆时，有<math>\frac { \partial \mathrm{tr}(\mathbf{A}^{-1}) }{ \partial \mathbf{A} } =-( \mathbf{A}^{-2} )^T</math>
• 对于两个向量x和y的外积，有<math>\frac { \partial \mathrm{tr}(\boldsymbol{xy}^T) }{ \partial \boldsymbol{x} }=\frac { \partial \mathrm{tr}(\boldsymbol{yx}^T) }{ \partial \boldsymbol{x} } =\boldsymbol{y}</math>

两个矩阵

• 若A为m×n矩阵，有<math>\frac { \partial \mathrm{tr}(\mathbf{A}\mathbf{A}^T) }{ \partial \mathbf{A} }=\frac { \partial \mathrm{tr}(\mathbf{A}^T\mathbf{A}) }{ \partial \mathbf{A} } =2\mathbf{A}</math>
• 若A为m×m矩阵，有<math>\frac { \partial \mathrm{tr}(\mathbf{A}^2) }{ \partial \mathbf{A} }=\frac { \partial \mathrm{tr}(\mathbf{A}\mathbf{A}) }{ \partial \mathbf{A} } =2\mathbf{A}^T</math>

• 若A为m×n矩阵，B是m×n矩阵，有<math>\frac { \partial \mathrm{tr}(\mathbf{A}^T\mathbf{B}) }{ \partial \mathbf{A} }=\frac { \partial \mathrm{tr}(\mathbf{B}\mathbf{A}^T) }{ \partial \mathbf{A} } =\mathbf{B}</math>
• 若A为m×n矩阵，B是n×m矩阵，有<math>\frac { \partial \mathrm{tr}(\mathbf{A}\mathbf{B}) }{ \partial \mathbf{A} }=\frac { \partial \mathrm{tr}(\mathbf{B}\mathbf{A}) }{ \partial \mathbf{A} } =\mathbf{B}^T</math>
• 当A和B均为对称矩阵时，有<math>\frac { \partial \mathrm{tr}(\mathbf{A}\mathbf{B}) }{ \partial \mathbf{A} }=\frac { \partial \mathrm{tr}(\mathbf{B}\mathbf{A}) }{ \partial \mathbf{A} } =\mathbf{B}+\mathbf{B}^T-diag(\mathbf{B})</math>

• 若A和B都是m×m矩阵，并且A是非奇异矩阵，有<math>\frac { \partial \mathrm{tr}(\mathbf{B}\mathbf{A}^{-1}) }{ \partial \mathbf{A} }=-(\mathbf{A}^{-1}\mathbf{B}^T\mathbf{A}^{-1})^T</math>

參見

• 行列式
• 若尔当标准型
• 对角矩阵
• 三角矩阵
• 特征多项式

参考书籍

• （中文）张贤达. 矩阵分析与应用. 清华大学出版社. 2008. ISBN 9787302092711. 
• （英文）Strang Gilbert. Linear algebra and its applications. Thomson, Brooks/Cole, Belmont, CA. 2006. ISBN 9780534422004. 
• （中文）居余马、林翠琴. 线性代数. 清华大学出版社. 2002. ISBN 978-7-302-06507-4. 
• （英文）Werner Hildbert Greub. linear algebra. Springer Verlag. 1975. ISBN 978-0-387-90110-7. 
• （英文）Steven Roman. Advanced Linear Algebra. Springer. 2005. ISBN 0-387-24766-1. 
• （英文）Carl Dean Meyer. Matrix Analysis and Applied Linear Algebra Book and Solutions Manual. Society for Industrial and Applied Mathematics. 2001. ISBN 978-0898714548. 

• （英文）Karim M. Abadir,Jan R. Magnus. Matrix algebra. Cambridge University Press. 2005. ISBN 978-0521537469.