Собственные векторы, значения и пространства

Синим цветом обозначен собственный вектор. Он, в отличие от красного, при деформации(преобразовании) не изменил направление и длину, поэтому является собственным вектором, соответствующим собственному значению $\lambda=1$. Любой вектор, параллельный синему вектору, также будет собственным, соответствующим тому же собственному значению. Множество всех таких векторов (вместе с нулевым) образует собственное подпространство.

Определения собственного числа, собственного и корневого векторов линейного оператора

Пусть $L$ — линейное пространство над полем $K$, $A\colon L \to L$ — линейное преобразование.

Собственным вектором линейного преобразования $A$ называется такой ненулевой вектор $x \in L$, что для некоторого $\lambda \in K$

$\ A x = \lambda x$

Собственным значением линейного преобразования $A$ называется такое число $\lambda \in K$, для которого существует собственный вектор, то есть уравнение $A x = \lambda x$ имеет ненулевое решение $x \in L$.

Упрощённо говоря, собственный вектор — любой ненулевой вектор x, который отображается оператором в коллинеарный $\lambda x$, а соответствующий скаляр $\lambda$ называется собственным значением оператора.

Собственным подпространством линейного преобразования $A$ для данного собственного числа $\lambda \in K$ (или отвечающим этому числу) называется множество всех собственных векторов $x \in L$, соответствующих данному собственному числу (дополненное нулевым вектором). Обозначим его $E_{\lambda}$. По определению,

$E_{\lambda}=\ker(A-\lambda \cdot E)$

где $E$ — единичный оператор.

Корневым вектором линейного преобразования $A$ для данного собственного значения $\lambda \in K$ называется такой ненулевой вектор $x \in L$, что для некоторого натурального числа $m$

$(A-\lambda \cdot E)^m x =0$

Если $m$ является наименьшим из таких натуральных чисел (то есть $(A-\lambda \cdot E)^{m-1} x \neq 0$), то $m$ называется высотой корневого вектора $x$.

Корневым подпространством линейного преобразования $A$ для данного собственного числа $\lambda \in K$ называется множество всех корневых векторов $x \in L$, соответствующих данному собственному числу (дополненное нулевым вектором). Обозначим его $V_{\lambda}$. По определению,

$V_{\lambda}=\bigcup_{m=1}^{\infty}\ker(A-\lambda \cdot E)^m = \bigcup_{m=1}^{\infty}V_{m,\lambda},$

где $V_{m,\lambda}= \ker(A-\lambda \cdot E)^m$

Свойства собственных значений, собственных и корневых векторов и пространств

Общий случай

Подпространство $V \subset L$ называется инвариантным подпространством линейного преобразования $A$ ($A$-инвариантным подпространством), если

$AV \subseteq V$.

• Собственные подпространства $E_{\lambda}$, корневые подпространства $V_{\lambda}$ и подпространства $V_{m,\lambda}$ линейного оператора $A$ являются $A$-инвариантными.

• Собственные векторы являются корневыми (высоты 1): $E_{\lambda} \subseteq V_{\lambda}$;

• Корневые векторы могут не быть собственными: например, для преобразования двумерного пространства, заданного матрицей

$A= \begin{pmatrix} 1& 1\\ 0&1\end{pmatrix}$

$(A-E)^2=0$, и все векторы являются корневыми, соответствующими собственному числу 1, но $A$ имеет единственный собственный вектор (с точностью до умножения на число).

• Для разных собственных значений корневые (и, следовательно, собственные) подпространства имеют тривиальное (нулевое) пересечение:

$V_{\lambda} \bigcap V_{\mu}=\{0\}$ если $\lambda \neq \mu$.

• Метод поиска собственных значений для самосопряженных операторов, и поиска сингулярных чисел для нормального оператора дает теорема Куранта-Фишера.

Конечномерные линейные пространства

Выбрав базис в $n$-мерном линейном пространстве $L$, можно сопоставить линейному преобразованию $A\colon L \to L$ квадратную $n\times n$ матрицу и определить для неё характеристический многочлен матрицы

$P_A(\lambda)=\det (A-\lambda \cdot E) = \sum\limits_{k=0}^{n}a_k \lambda^k$.

• Характеристический многочлен не зависит от базиса в $L$. Его коэффициенты являются инвариантами оператора $A$. В частности, $a_0 = \det\,A$, $a_{n-1} = \operatorname{tr}\, A$ не зависят от выбора базиса.
• Собственные значения, и только они, являются корнями характеристического многочлена матрицы.
• Количество различных собственных значений не может превышать размер матрицы.
• Если выбрать в качестве базисных векторов собственные вектора оператора, то матрица $A$ в таком базисе станет диагональной, причём на диагонали будут стоять собственные значения оператора. Отметим, однако, что далеко не любая матрица допускает базис из собственных векторов (общая структура описывается нормальной жордановой формой).
• Для положительно определённой симметричной матрицы $A$ процедура нахождения собственных значений и собственных векторов является ни чем иным как поиском направлений и длин полуосей соответствующего эллипса.

Пусть числовое поле алгебраически замкнуто (например, является полем комплексных чисел). Тогда характеристический многочлен разлагается в произведение $n$ линейных множителей

$P_A(\lambda)=(-1)^n \prod_{i=1}^n (\lambda - \lambda_i)$

где $\lambda_i \; (i=1,\ldots,n )$ — собственные значения; некоторые из $\lambda_i$ могут быть равны. Кратность собственного значения $\lambda_i$ — это число множителей равных $\lambda - \lambda_i$ в разложении характеристического многочлена на линейные множители (называется также алгебраическая кратность собственного значения).

• Размерность корневого пространства $V_{\lambda_i}$ равна кратности собственного значения.
• Векторное пространство $L$ разлагается в прямую сумму корневых подпространств (по теореме о жордановой форме):

$L=\bigoplus_{\lambda_i}V_{\lambda_i}$

где суммирование производится по всем $\lambda_i$ — собственным числам $A$.

• Геометрическая кратность собственного значения $\lambda_i$ — это размерность соответствующего собственного подпространства $E_{\lambda_i}$; геометрическая кратность собственного значения не превосходит его кратности, поскольку $E_{\lambda_i} \subseteq V_{\lambda_i}$

Гильбертовы пространства над полем комплексных чисел и нормальные операторы

Наличие скалярного произведения позволяет выделить важные классы операторов, собственные значения и собственные векторы которых обладают рядом дополнительных полезных свойств.

Нормальным оператором называется оператор $A$, коммутирующий со своим сопряжённым $A^*$:

$A A^*=A^* A$.

Частными классами нормальных операторов являются самосопряжённые (эрмитовы) операторы ($A =A^*$), антиэрмитовы операторы ($A =-A^*$) и унитарные операторы ($A^{-1} =A^*$), а также их вещественные варианты: симметричные операторы, антисимметричные операторы и ортогональные преобразования.

• Все корневые векторы нормального оператора являются собственными.

• Собственные векторы нормального оператора $A$, соответствующие различным собственным значениям, ортогональны. То есть если $A x=\lambda x$, $A y=\mu y$ и $\lambda \neq \mu$, то $(x,y)=0$. (Для произвольного оператора это неверно.)

• Все собственные значения самосопряжённого оператора являются вещественными.

• Все собственные значения антиэрмитового оператора являются мнимыми.

• Все собственные значения унитарного оператора лежат на единичной окружности $|\lambda|=1$.

• В конечномерном случае, сумма размерностей собственных подпространств нормального оператора $A\colon \C^n \to \C^n$, соответствующих всем собственным значениям, равна размерности матрицы, а векторное пространство разлагается в ортогональную сумму собственных подпространств:

$L=\bigoplus_{\lambda_i}E_{\lambda_i},$

где суммирование производится по всем $\lambda_i$ — собственным числам $A$, а $E_{\lambda_i}$ взаимно ортогональны для различных $\lambda_i$.

• Последнее свойство для нормального оператора над $\C$ является характеристическим: оператор нормален тогда и только тогда, когда его матрица имеет диагональный вид в каком-нибудь ортонормированном базисе (в конечномерном случае).

Положительные матрицы

Квадратная вещественная $n \times n$ матрица $A=(a_{ij})$ называется положительной, если все её элементы положительны: $a_{ij} > 0$.

Теорема Перрона (частный случай теоремы Перрона-Фробениуса): Положительная квадратная матрица $A$ имеет положительное собственное значение $r$, которое имеет алгебраическую кратность 1 и строго превосходит абсолютную величину любого другого собственного значения этой матрицы. Собственному значению $r$ соответствует собственный вектор $e_r$, все координаты которого строго положительны. Вектор $e_r$ — единственный собственный вектор $A$ (с точностью до умножения на число), имеющий неотрицательные координаты.

Собственный вектор $e_r$ может быть вычислен посредством прямых итераций: выберем произвольный начальный вектор $v_0$ с положительными координатами. Положим:

$v_{k+1} = \frac{A v_{k}}{\|A v_{k}\|}$

Последовательность $v_{k}$ сходится к нормированному собственному вектору $e_r / \|e_r\|$.

Другая область применения метода прямых итераций — поиск собственных векторов положительно определённых симметричных операторов.

Литература

• Гантмахер Ф. Р. Теория матриц. — М.: Наука, 1966. — 576 с.
• Уилкинсон Д. Х. Алгебраическая проблема собственных значений. — М.: Наука, 1970. — 564 с.
• Гельфанд И. М. Лекции по линейной алгебре М.: Наука, 1971.
• Фаддеев Д. К. Лекции по алгебре. М.: Наука, 1984.
• Шафаревич И. Р., Ремизов А. О. Линейная алгебра и геометрия, — Физматлит, Москва, 2009.