✍️
mathematics_basic_for_ML
  • README
  • README
    • Summary
    • Geometry
      • EulerAngle
      • Gimbal lock
      • Quaternion
      • RiemannianManifolds
      • RotationMatrix
      • SphericalHarmonics
    • Information
      • Divergence
      • 信息熵 entropy
    • LinearAlgebra
      • 2D仿射变换(2D Affine Transformation)
      • 2DTransformation
      • 3D变换(3D Transformation)
      • ComplexTransformation
      • Conjugate
      • Hessian
      • IllConditioning
      • 逆变换(Inverse transform)
      • SVD
      • det
      • eigendecomposition
      • 矩阵
      • norm
      • orthogonal
      • special_matrix
      • trace
      • vector
    • Mathematics
      • Complex
      • ExponentialDecay
      • average
      • calculus
      • convex
      • derivative
      • 距离
      • function
      • space
      • Formula
        • euler
        • jensen
        • taylor
        • trigonometric
    • Numbers
      • 几何级数
      • SpecialNumbers
    • NumericalComputation
      • ConstrainedOptimization
      • GradientDescent
      • Newton
      • Nominal
      • ODE_SDE
      • Preprocessing
    • Probability
      • bayes
      • distribution
      • expectation_variance
      • 贝叶斯公式
      • functions
      • likelihood
      • mixture_distribution
      • 一些术语
      • probability_distribution
Powered by GitBook
On this page
  • 特征分解
  • 实对称矩阵特征分解的应用

Was this helpful?

  1. README
  2. LinearAlgebra

eigendecomposition

PreviousdetNext矩阵

Last updated 2 years ago

Was this helpful?

Av=λvAv=\lambda vAv=λv

AAA是任意方阵。 vvv是非零向量,是AAA的特征向量,通常只考虑单位特征向量 λ\lambdaλ是$$A$$$的特征值

特征分解

A=Vdiag(λ)V−1A = Vdiag(\lambda)V^-1A=Vdiag(λ)V−1

所设A是一个n*n的方阵,则: VVV是AAA的n个相互正交的特征向量连成的矩阵,即[v1,v2,...,vn][v_1,v_2,...,v_n][v1​,v2​,...,vn​] diag(λ)diag(\lambda)diag(λ)是特征向量对应的特征值形成的对角矩阵,即[λ1λ2⋱λn]\begin{bmatrix} \lambda_1 & \\ & \lambda_2 \\ & & \ddots \\ & & & \lambda_n\\ \end{bmatrix}​λ1​​λ2​​⋱​λn​​​

对于任意的实对称矩阵A,有

A=QΛQTA = Q\Lambda Q^TA=QΛQT

AAA是实对称矩阵。 Λ\LambdaΛ是A的特征值降序排列形成的对角矩阵。 QQQ是特征值对应的特征向量组成的正交矩阵。

意义:将A看作是沿方向v(i)v^{(i)}v(i)延展i倍的空间(没看懂)

实对称矩阵特征分解的应用

优化二次方程:f(x)=xTAx,∣∣x∣∣2=1f(x)=x^TAx, \quad ||x||_2=1f(x)=xTAx,∣∣x∣∣2​=1 当x为A的某个特征向量时,f(x)为对应的特征值。 f(x)maxf(x)_maxf(x)m​ax为最大特征值。f(x)minf(x)_minf(x)m​in为最小特征值。