Собственный вектор

Со́бственный ве́ктор — понятие в линейной алгебре, определяемое для произвольного линейного оператора как ненулевой вектор, применение к которому оператора даёт коллинеарный вектор — тот же вектор, умноженный на некоторое скалярное значение (которое может быть равно 0). Скаляр, на который умножается собственный вектор под действием оператора, называется собственным числом (или собственным значением) линейного оператора, соответствующим данному собственному вектору. Одним из представлений линейного оператора является квадратная матрица, поэтому собственные векторы и собственные значения часто определяются в контексте использования таких матриц^[1]^[2].

Понятия собственного вектора и собственного числа^[3] являются одними из ключевых в линейной алгебре, на их основе строится множество конструкций. Это связано с тем, что многие соотношения, связанные с линейными операторами, существенно упрощаются в системе координат, построенной на базисе из собственных векторов оператора. Множество собственных значений линейного оператора (спектр оператора) характеризует важные свойства оператора без привязки к какой-либо конкретной системе координат. По этим причинам собственные векторы имеют важное прикладное значение. Так, например, собственные векторы часто встречаются в механике, квантовой теории и так далее. В частности, оператор проекции спина на произвольную ось имеет два собственных значения и соответствующие им собственные векторы.

Понятие линейного векторного пространства не ограничивается «чисто геометрическими» векторами и обобщается на разнообразные множества объектов, таких как пространства функций (в которых действуют линейные дифференциальные и интегральные операторы). Для такого рода пространств и операторов говорят о собственных функциях операторов.

Множество всех собственных векторов линейного оператора, соответствующих данному собственному числу, дополненное нулевым вектором, называется собственным подпространством^[4] этого оператора.

Поиск оптимальных алгоритмов вычисления собственных значений для заданного линейного оператора является одной из важных задач вычислительной математики.

Определения

Собственным вектором линейного преобразования $A\colon L\to L$ , где $L$ — линейное пространство над полем $K$ , называется такой ненулевой вектор $x\in L$ , что для некоторого $\lambda \in K$ имеет место $\ Ax=\lambda x$ .

Собственным значением (собственным числом) линейного преобразования $A$ называется такое число $\lambda \in K$ , для которого существует собственный вектор, то есть уравнение $Ax=\lambda x$ имеет ненулевое решение $x\in L$ .

Упрощённо говоря, собственный вектор — любой ненулевой вектор $x$ , который отображается в коллинеарный ему вектор $\lambda x$ оператором $A$ , а соответствующий скаляр $\lambda$ называется собственным значением оператора.

Собственным подпространством (или характеристическим подпространством) линейного преобразования $A$ для данного собственного числа $\lambda \in K$ (или отвечающим этому числу) называется множество всех собственных векторов $x\in L$ , соответствующих данному собственному числу, дополненное нулевым вектором. Обозначим собственное подпространство, отвечающее собственному числу $\lambda$ , через $E_{\lambda }$ , а единичный оператор — через $I$ . По определению, собственное подпространство является ядром оператора $A-\lambda \cdot I,$ то есть множеством векторов, отображаемых этим оператором в нулевой вектор:

E_{\lambda }=\ker(A-\lambda \cdot I)

.

Корневым вектором линейного преобразования $A$ для данного собственного значения $\lambda \in K$ называется такой ненулевой вектор $x\in L$ , что для некоторого натурального числа $m$ имеет место:

(A-\lambda \cdot I)^{m}x=0

.

Если $m$ является наименьшим из таких натуральных чисел (то есть $(A-\lambda \cdot I)^{m-1}x\neq 0$ ), то $m$ называется высотой корневого вектора $x$ .

Корневым подпространством линейного преобразования $A$ для данного собственного числа $\lambda \in K$ называется множество всех корневых векторов $x\in L$ , соответствующих данному собственному числу, если это множество дополнить нулевым вектором. Обозначим корневое подпространство, отвечающее собственному числу λ, через $V_{\lambda }$ . По определению:

V_{\lambda }=\bigcup _{m=1}^{\infty }\ker(A-\lambda \cdot I)^{m}=\bigcup _{m=1}^{\infty }V_{m,\lambda }

.

История

Собственные значения обычно вводятся в контексте линейной алгебры, однако исторически они возникли при исследовании квадратичных форм и дифференциальных уравнений.

В XVIII веке Эйлер, изучая вращательное движение абсолютно твёрдого тела, обнаружил значимость главных осей, а Лагранж показал, что главные оси соответствуют собственным векторам матрицы инерции. В начале XIX века Коши использовал труды Эйлера и Лагранжа для классификации поверхностей второго порядка и обобщил результаты на высшие порядки. Коши также ввёл термин «характеристический корень» (фр. racine caractéristique) для собственного значения. Этот термин сохранился в контексте характеристического многочлена матрицы^[5]^[6].

В начале XX века Гильберт занимался исследованием собственных значений интегральных операторов, рассматривая последние как матрицы бесконечного размера^[7]. В 1904 году для обозначения собственных значений и собственных векторов Гильберт начал использовать термины eigenvalues и eigenvectors, основанные на немецком слове eigen (собственный)^[8]. Впоследствии эти термины перешли и в английский язык, заменив используемые ранее «proper value» и «proper vector»^[9].

Свойства

Общий случай

Подпространство $V\subset L$ называется инвариантным подпространством линейного преобразования $A$ ( $A$ -инвариантным подпространством), если:

AV\subseteq V

.

Собственные подпространства $E_{\lambda }$ , корневые подпространства $V_{\lambda }$ и подпространства $V_{m,\lambda }$ линейного оператора $A$ являются $A$ -инвариантными.

Собственные векторы являются корневыми (высоты 1): $E_{\lambda }\subseteq V_{\lambda }$ ;

Корневые векторы могут не быть собственными: например, для преобразования двумерного пространства, заданного матрицей:

A={\begin{pmatrix}1&1\\0&1\end{pmatrix}}

(A-E)^{2}=0

, и все векторы являются корневыми, соответствующими собственному числу

1

, но

A

имеет единственный собственный вектор (с точностью до умножения на число).

Для разных собственных значений корневые (и, следовательно, собственные) подпространства имеют тривиальное (нулевое) пересечение:

V_{\lambda }\bigcap V_{\mu }=\{0\}

если

\lambda \neq \mu

.

Метод поиска собственных значений для самосопряжённых операторов и поиска сингулярных чисел для нормального оператора даёт теорема Куранта — Фишера.

Конечномерные линейные пространства

Выбрав базис в $n$ -мерном линейном пространстве $L$ , можно сопоставить линейному преобразованию $A\colon L\to L$ квадратную $n\times n$ матрицу и определить для неё характеристический многочлен матрицы:

P_{A}(\lambda )=\det(A-\lambda \cdot I)=\sum \limits _{k=0}^{n}a_{k}\lambda ^{k}

.

Характеристический многочлен не зависит от базиса в $L$ . Его коэффициенты являются инвариантами оператора $A$ . В частности, $a_{0}=\det \,A$ , $a_{n-1}=\operatorname {tr} \,A$ не зависят от выбора базиса.

Собственные значения, и только они, являются корнями характеристического многочлена матрицы. Количество различных собственных значений не может превышать размер матрицы. Если выбрать в качестве базисных векторов собственные векторы оператора, то матрица $A$ в таком базисе станет диагональной, причём на диагонали будут стоять собственные значения оператора. Отметим, однако, что далеко не любая матрица допускает базис из собственных векторов (общая структура описывается нормальной жордановой формой). Для положительно определённой симметричной матрицы $A$ процедура нахождения собственных значений и собственных векторов является не чем иным, как поиском направлений и длин полуосей соответствующего эллипса.

Если числовое поле алгебраически замкнуто (например, является полем комплексных чисел), то характеристический многочлен разлагается в произведение $n$ линейных множителей:

P_{A}(\lambda )=(-1)^{n}\prod _{i=1}^{n}(\lambda -\lambda _{i})

,

где $\lambda _{i}\;(i=1,\ldots ,n)$ — собственные значения; некоторые из $\lambda _{i}$ могут быть равны. Кратность собственного значения $\lambda _{i}$ — это число множителей, равных $\lambda -\lambda _{i},$ в разложении характеристического многочлена на линейные множители (называется также алгебраическая кратность собственного значения).

Размерность корневого пространства $V_{\lambda _{i}}$ равна кратности собственного значения.

Векторное пространство $L$ разлагается в прямую сумму корневых подпространств (по теореме о жордановой форме):

L=\bigoplus _{\lambda _{i}}V_{\lambda _{i}}

где суммирование производится по всем

\lambda _{i}

— собственным числам

A

.

Геометрическая кратность собственного значения $\lambda _{i}$ — это размерность соответствующего собственного подпространства $E_{\lambda _{i}}$ ; геометрическая кратность собственного значения не превосходит его кратности, поскольку $E_{\lambda _{i}}\subseteq V_{\lambda _{i}}$

Нормальные операторы и их подклассы

Все корневые векторы нормального оператора являются собственными. Собственные векторы нормального оператора $A$ , соответствующие различным собственным значениям, ортогональны, то есть если $Ax=\lambda x$ , $Ay=\mu y$ и $\lambda \neq \mu$ , то $(x,y)=0$ (для произвольного оператора это неверно).

Все собственные значения самосопряжённого оператора являются вещественными, антиэрмитового оператора — мнимыми, а все собственные значения унитарного оператора лежат на единичной окружности $|\lambda |=1$ .

В конечномерном случае сумма размерностей собственных подпространств нормального оператора $A\colon \mathbb {C} ^{n}\to \mathbb {C} ^{n}$ , соответствующих всем собственным значениям, равна размерности матрицы, а векторное пространство разлагается в ортогональную сумму собственных подпространств:

L=\bigoplus _{\lambda _{i}}E_{\lambda _{i}}

,

где суммирование производится по всем $\lambda _{i}$ — собственным числам $A$ , а $E_{\lambda _{i}}$ взаимно ортогональны для различных $\lambda _{i}$ . Это свойство для нормального оператора над $\mathbb {C}$ в конечномерном случае является характеристическим: оператор нормален тогда и только тогда, когда его матрица имеет диагональный вид в каком-нибудь ортонормированном базисе.

Положительные матрицы

Квадратная вещественная $n\times n$ матрица $A=(a_{ij})$ называется положительной, если все её элементы положительны: $a_{ij}>0$ .

Теорема Перрона (частный случай теоремы Перрона — Фробениуса): Положительная квадратная матрица $A$ имеет положительное собственное значение $r$ , которое имеет алгебраическую кратность 1 и строго превосходит абсолютную величину любого другого собственного значения этой матрицы. Собственному значению $r$ соответствует собственный вектор $e_{r}$ , все координаты которого строго положительны. Вектор $e_{r}$ — единственный собственный вектор $A$ (с точностью до умножения на число), имеющий неотрицательные координаты.

Собственный вектор $e_{r}$ может быть вычислен посредством прямых итераций: выбирается произвольный начальный вектор $v_{0}$ с положительными координатами, последующий элемент задаётся рекуррентной формулой:

v_{k+1}={\frac {Av_{k}}{\|Av_{k}\|}}

,

получается последовательность $v_{k}$ , сходящаяся к нормированному собственному вектору $e_{r}/\|e_{r}\|$ .

Другая область применения метода прямых итераций — поиск собственных векторов положительно определённых симметричных операторов.

Неравенства для собственных значений

Неравенство Шура: для собственных значений $\lambda _{1},\dots ,\lambda _{n}$ матрицы $A=(a_{ij})_{i,j=1,\ldots ,n}$ :

\sum _{i=1}^{n}|\lambda _{i}|^{2}\leqslant \sum _{i,j=1}^{n}|a_{ij}|^{2}=\|A\|_{F}^{2}

,

причём равенство достигается тогда и только тогда, когда $A$ — нормальная матрица^[10].

Для собственных значений $\lambda _{1},...,\lambda _{n}$ матрицы $A=B+iC$ , где матрицы $B,C$ — эрмитовы, имеет место:

\sum _{i=1}^{n}|\Re \lambda _{i}|^{2}\leqslant \sum _{i,j=1}^{n}|b_{ij}|^{2}

и

\sum _{i=1}^{n}|\Im \lambda _{i}|^{2}\leqslant \sum _{i,j=1}^{n}|c_{ij}|^{2}

^[11].

Для эрмитовых матриц $A,B$ и $C=A+B$ их собственные значения, упорядоченные в порядке возрастания: $\alpha _{1}\leqslant ...\leqslant \alpha _{n},\beta _{1}\leqslant ...\leqslant \beta _{n},\gamma _{1}\leqslant ...\leqslant \gamma _{n}$ дают: $\gamma _{i}\geqslant \alpha _{i}+\beta _{i-j+1}$ при $i\geqslant j$ и $\gamma _{i}\leqslant \alpha _{i}+\beta _{i-j+n}$ при $i\leqslant j$ ^[11].

Примечания

↑ Herstein (1964, pp. 228, 229)
↑ Nering (1970, p. 38)
↑ Иногда используются синонимичные термины: характеристический вектор и характеристическое число оператора.
↑ Не путать с собственным подпространством линейного векторного пространства — любым подпространством, отличным от тривиальных подпространств, то есть от самого этого пространства и от нулевого пространства.
↑ Kline, 1972, pp. 807–808.
↑ Augustin Cauchy (1839) «Mémoire sur l’intégration des équations linéaires» (Memoir on the integration of linear equations), Comptes rendus, 8 : 827—830, 845—865, 889—907, 931—937. p. 827: Архивная копия от 7 июня 2019 на Wayback Machine «On sait d’ailleurs qu’en suivant la méthode de Lagrange, on obtient pour valeur générale de la variable prinicipale une fonction dans laquelle entrent avec la variable principale les racines d’une certaine équation que j’appellerai l'équation caractéristique, le degré de cette équation étant précisément l’order de l'équation différentielle qu’il s’agit d’intégrer.»
↑ Kline, 1972, p. 1063.
↑ David Hilbert (1904).«Grundzüge einer allgemeinen Theorie der linearen Integralgleichungen. (Erste Mitteilung)» Архивная копия от 5 ноября 2018 на Wayback Machine, Nachrichten von der Gesellschaft der Wissenschaften zu Göttingen, Mathematisch-Physikalische Klasse, pp. 49-91.
↑ Aldrich, John (2006), «Eigenvalue, eigenfunction, eigenvector, and related terms», in Jeff Miller (ed.), Earliest Known Uses of Some of the Words of Mathematics Архивная копия от 23 декабря 2017 на Wayback Machine
↑ Задачи и теоремы линейной алгебры, 1996, с. 206.
↑ ¹ ² Задачи и теоремы линейной алгебры, 1996, с. 207.

Литература

Гантмахер Ф. Р.. Теория матриц. — М.: Наука, 1966. — 576 с. — ISBN ISBN 5-9221-0524-8.
Уилкинсон Д. Х. Алгебраическая проблема собственных значений. — М.: Наука, 1970. — 564 с. — ISBN 978-5-458-25464-9.
Гельфанд И. М.. Лекции по линейной алгебре. — М.: Добросвет, КДУ, 2009. — 320 с. — 1000 экз. — ISBN 978-5-98227-625-4.
Фаддеев Д. К.. Лекции по алгебре. — М.: ЁЁ Медиа, 2012. — 416 с. — ISBN 978-5-458-25543-1.
Шафаревич И. Р., Ремизов А. О. Линейная алгебра и геометрия. — М.: Физматлит, 2009. — 512 с. — ISBN 978-5-9221-1139-3.
Прасолов В. В. Задачи и теоремы линейной алгебры. — М.: Наука, 1996. — 304 с. — ISBN 5-02-014727-3.
Икрамов Х. Д. Несимметричная проблема собственных значений. — М.: Наука, 1991. — 240 с. — ISBN 5-02-014462-2.
Herstein, I. N. (1964), Topics In Algebra, Waltham: Blaisdell Publishing Company, ISBN 978-1114541016
Horn, Roger A.; Johnson, Charles F. (1985), Matrix analysis, Cambridge University Press, ISBN 0-521-30586-1
Nering, Evar D. (1970), Linear Algebra and Matrix Theory (2nd ed.), New York: Wiley, LCCN 76091646
Kline, Morris (1972), Mathematical thought from ancient to modern times, Oxford University Press, ISBN 0-19-501496-0

[Herstein_1964_228–299-1] Herstein (1964, pp. 228, 229)

[Nering_1970_38-2] Nering (1970, p. 38)

[3] Иногда используются синонимичные термины: характеристический вектор и характеристическое число оператора.

[4] Не путать с собственным подпространством линейного векторного пространства — любым подпространством, отличным от тривиальных подпространств, то есть от самого этого пространства и от нулевого пространства.

[_b91cf2bb1c6aa435-5] Kline, 1972, pp. 807–808.

[6] Augustin Cauchy (1839) «Mémoire sur l’intégration des équations linéaires» (Memoir on the integration of linear equations), Comptes rendus, 8 : 827—830, 845—865, 889—907, 931—937. p. 827: Архивная копия от 7 июня 2019 на Wayback Machine «On sait d’ailleurs qu’en suivant la méthode de Lagrange, on obtient pour valeur générale de la variable prinicipale une fonction dans laquelle entrent avec la variable principale les racines d’une certaine équation que j’appellerai l'équation caractéristique, le degré de cette équation étant précisément l’order de l'équation différentielle qu’il s’agit d’intégrer.»

[_5348ff92b8fe79f3-7] Kline, 1972, p. 1063.

[8] David Hilbert (1904).«Grundzüge einer allgemeinen Theorie der linearen Integralgleichungen. (Erste Mitteilung)» Архивная копия от 5 ноября 2018 на Wayback Machine, Nachrichten von der Gesellschaft der Wissenschaften zu Göttingen, Mathematisch-Physikalische Klasse, pp. 49-91.

[9] Aldrich, John (2006), «Eigenvalue, eigenfunction, eigenvector, and related terms», in Jeff Miller (ed.), Earliest Known Uses of Some of the Words of Mathematics Архивная копия от 23 декабря 2017 на Wayback Machine

[_9f57c8888f8293ea-10] Задачи и теоремы линейной алгебры, 1996, с. 206.

[_9f57c8888f8293eb-11] ¹ ² Задачи и теоремы линейной алгебры, 1996, с. 207.

[1]

[2]

[3]

[4]

[5]

[6]

[7]

[8]

[9]

[10]

[11]