Произведение Кронекера — бинарная операция над матрицами произвольного размера, обозначается
⊗
{\displaystyle \otimes }
блочная матрица .
Произведение Кронекера не следует путать с обычным умножением матриц . Операция названа в честь немецкого математика Леопольда Кронекера .
Если A — матрица размера m ×n , B — матрица размера p ×q , тогда произведение Кронекера есть блочная матрица размера mp ×nq
A
⊗
B
=
[
a
11
B
⋯
a
1
n
B
⋮
⋱
⋮
a
m
1
B
⋯
a
m
n
B
]
.
{\displaystyle A\otimes B={\begin{bmatrix}a_{11}B&\cdots &a_{1n}B\\\vdots &\ddots &\vdots \\a_{m1}B&\cdots &a_{mn}B\end{bmatrix}}.}
В развёрнутом виде
A
⊗
B
=
[
a
11
b
11
a
11
b
12
⋯
a
11
b
1
q
⋯
⋯
a
1
n
b
11
a
1
n
b
12
⋯
a
1
n
b
1
q
a
11
b
21
a
11
b
22
⋯
a
11
b
2
q
⋯
⋯
a
1
n
b
21
a
1
n
b
22
⋯
a
1
n
b
2
q
⋮
⋮
⋱
⋮
⋮
⋮
⋱
⋮
a
11
b
p
1
a
11
b
p
2
⋯
a
11
b
p
q
⋯
⋯
a
1
n
b
p
1
a
1
n
b
p
2
⋯
a
1
n
b
p
q
⋮
⋮
⋮
⋱
⋮
⋮
⋮
⋮
⋮
⋮
⋱
⋮
⋮
⋮
a
m
1
b
11
a
m
1
b
12
⋯
a
m
1
b
1
q
⋯
⋯
a
m
n
b
11
a
m
n
b
12
⋯
a
m
n
b
1
q
a
m
1
b
21
a
m
1
b
22
⋯
a
m
1
b
2
q
⋯
⋯
a
m
n
b
21
a
m
n
b
22
⋯
a
m
n
b
2
q
⋮
⋮
⋱
⋮
⋮
⋮
⋱
⋮
a
m
1
b
p
1
a
m
1
b
p
2
⋯
a
m
1
b
p
q
⋯
⋯
a
m
n
b
p
1
a
m
n
b
p
2
⋯
a
m
n
b
p
q
]
.
{\displaystyle \mathbf {A} \otimes \mathbf {B} ={\begin{bmatrix}a_{11}b_{11}&a_{11}b_{12}&\cdots &a_{11}b_{1q}&\cdots &\cdots &a_{1n}b_{11}&a_{1n}b_{12}&\cdots &a_{1n}b_{1q}\\a_{11}b_{21}&a_{11}b_{22}&\cdots &a_{11}b_{2q}&\cdots &\cdots &a_{1n}b_{21}&a_{1n}b_{22}&\cdots &a_{1n}b_{2q}\\\vdots &\vdots &\ddots &\vdots &&&\vdots &\vdots &\ddots &\vdots \\a_{11}b_{p1}&a_{11}b_{p2}&\cdots &a_{11}b_{pq}&\cdots &\cdots &a_{1n}b_{p1}&a_{1n}b_{p2}&\cdots &a_{1n}b_{pq}\\\vdots &\vdots &&\vdots &\ddots &&\vdots &\vdots &&\vdots \\\vdots &\vdots &&\vdots &&\ddots &\vdots &\vdots &&\vdots \\a_{m1}b_{11}&a_{m1}b_{12}&\cdots &a_{m1}b_{1q}&\cdots &\cdots &a_{mn}b_{11}&a_{mn}b_{12}&\cdots &a_{mn}b_{1q}\\a_{m1}b_{21}&a_{m1}b_{22}&\cdots &a_{m1}b_{2q}&\cdots &\cdots &a_{mn}b_{21}&a_{mn}b_{22}&\cdots &a_{mn}b_{2q}\\\vdots &\vdots &\ddots &\vdots &&&\vdots &\vdots &\ddots &\vdots \\a_{m1}b_{p1}&a_{m1}b_{p2}&\cdots &a_{m1}b_{pq}&\cdots &\cdots &a_{mn}b_{p1}&a_{mn}b_{p2}&\cdots &a_{mn}b_{pq}\end{bmatrix}}.}
Если A и B представляют собой линейные преобразования V 1 → W 1 и V 2 → W 2 , соответственно, то A ⊗ B представляет собой тензорное произведение двух отображений, V 1 ⊗ V 2 → W 1 ⊗ W 2 .
[
1
2
3
4
]
⊗
[
0
5
6
7
]
=
[
1
⋅
0
1
⋅
5
2
⋅
0
2
⋅
5
1
⋅
6
1
⋅
7
2
⋅
6
2
⋅
7
3
⋅
0
3
⋅
5
4
⋅
0
4
⋅
5
3
⋅
6
3
⋅
7
4
⋅
6
4
⋅
7
]
=
[
0
5
0
10
6
7
12
14
0
15
0
20
18
21
24
28
]
{\displaystyle {\begin{bmatrix}1&2\\3&4\\\end{bmatrix}}\otimes {\begin{bmatrix}0&5\\6&7\\\end{bmatrix}}={\begin{bmatrix}1\cdot 0&1\cdot 5&2\cdot 0&2\cdot 5\\1\cdot 6&1\cdot 7&2\cdot 6&2\cdot 7\\3\cdot 0&3\cdot 5&4\cdot 0&4\cdot 5\\3\cdot 6&3\cdot 7&4\cdot 6&4\cdot 7\\\end{bmatrix}}={\begin{bmatrix}0&5&0&10\\6&7&12&14\\0&15&0&20\\18&21&24&28\end{bmatrix}}}
Билинейность, ассоциативность и некоммутативность [ править | править код ]
A
⊗
(
B
+
C
)
=
A
⊗
B
+
A
⊗
C
,
{\displaystyle A\otimes (B+C)=A\otimes B+A\otimes C,}
(
A
+
B
)
⊗
C
=
A
⊗
C
+
B
⊗
C
,
{\displaystyle (A+B)\otimes C=A\otimes C+B\otimes C,}
(
k
A
)
⊗
B
=
A
⊗
(
k
B
)
=
k
(
A
⊗
B
)
,
{\displaystyle (kA)\otimes B=A\otimes (kB)=k(A\otimes B),}
(
A
⊗
B
)
⊗
C
=
A
⊗
(
B
⊗
C
)
,
{\displaystyle (A\otimes B)\otimes C=A\otimes (B\otimes C),}
где A , B и C есть матрицы, а k — скаляр.
A
⊗
B
=
P
(
B
⊗
A
)
Q
.
{\displaystyle A\otimes B=P\,(B\otimes A)\,Q.}
Если A и B квадратные матрицы , тогда A
⊗
{\displaystyle \otimes }
B и B
⊗
{\displaystyle \otimes }
A являются перестановочно подобными , то есть, P = Q T .
Операции транспонирования и эрмитова сопряжения можно переставлять с произведением Кронекера:
(
A
⊗
B
)
T
=
A
T
⊗
B
T
,
{\displaystyle (A\otimes B)^{T}=A^{T}\otimes B^{T},}
(
A
⊗
B
)
H
=
A
H
⊗
B
H
.
{\displaystyle (A\otimes B)^{H}=A^{H}\otimes B^{H}.}
Если A , B , C и D являются матрицами такого размера, что существуют произведения AC и BD , тогда
(
A
⊗
B
)
(
C
⊗
D
)
=
A
C
⊗
B
D
.
{\displaystyle (A\otimes B)(C\otimes D)=AC\otimes BD.}
A
⊗
{\displaystyle \otimes }
B является обратимой тогда и только тогда, когда A и B являются обратимыми, и тогда
(
A
⊗
B
)
−
1
=
A
−
1
⊗
B
−
1
.
{\displaystyle (A\otimes B)^{-1}=A^{-1}\otimes B^{-1}.}
(
A
⊗
B
)
⊙
(
C
⊗
D
)
=
(
A
⊙
C
)
⊗
(
B
⊙
D
)
{\displaystyle (A\otimes B)\odot (C\otimes D)=(A\odot C)\otimes (B\odot D)}
⊙
{\displaystyle \odot }
произведение Адамара
A
⊗
B
=
(
I
⊗
B
)
(
A
⊗
I
)
{\displaystyle A\otimes B=(I\otimes B)(A\otimes I)}
I
{\displaystyle I}
Пусть A — матрица размера n ×n , B — матрица размера m ×m и
E
k
{\displaystyle E_{k}}
единичная матрица размера k ×k . Тогда можно определить сумму Кронекера
⊕
{\displaystyle \oplus }
A
⊕
B
=
A
⊗
E
m
+
E
n
⊗
B
.
{\displaystyle A\oplus B=A\otimes E_{m}+E_{n}\otimes B.}
e
A
⊕
B
=
e
A
⊗
e
B
.
{\displaystyle e^{A\oplus B}=e^{A}\otimes e^{B}.}
Если A и B квадратные матрицы размера n и q соответственно. Если λ1 , …, λn собственные значения матрицы A и μ1 , …, μq B . Тогда собственными значениями A
⊗
{\displaystyle \otimes }
B являются
λ
i
μ
j
,
i
=
1
,
…
,
n
,
j
=
1
,
…
,
q
.
{\displaystyle \lambda _{i}\mu _{j},\qquad i=1,\ldots ,n,\,j=1,\ldots ,q.}
tr
(
A
⊗
B
)
=
tr
(
A
)
tr
(
B
)
,
{\displaystyle \operatorname {tr} (A\otimes B)=\operatorname {tr} (A)\,\operatorname {tr} (B),}
det
(
A
⊗
B
)
=
(
det
A
)
q
(
det
B
)
n
.
{\displaystyle \det(A\otimes B)=(\det A)^{q}(\det B)^{n}.}
σ
A
,
i
,
i
=
1
,
…
,
r
A
.
{\displaystyle \sigma _{A,i},\qquad i=1,\ldots ,r_{A}.}
Ненулевые сингулярные значения матрицы B :
σ
B
,
i
,
i
=
1
,
…
,
r
B
.
{\displaystyle \sigma _{B,i},\qquad i=1,\ldots ,r_{B}.}
Тогда произведение Кронекера A
⊗
{\displaystyle \otimes }
B имеет r A r B
σ
A
,
i
σ
B
,
j
,
i
=
1
,
…
,
r
A
,
j
=
1
,
…
,
r
B
.
{\displaystyle \sigma _{A,i}\sigma _{B,j},\qquad i=1,\ldots ,r_{A},\,j=1,\ldots ,r_{B}.}
Ранг матрицы равен количеству ненулевых сингулярных значений,
rank
(
A
⊗
B
)
=
rank
(
A
)
rank
(
B
)
.
{\displaystyle \operatorname {rank} (A\otimes B)=\operatorname {rank} (A)\,\operatorname {rank} (B).}
Произведение Кронекера названо в честь Леопольда Кронекера , несмотря даже на то, что существует мало свидетельств о том, что он был первым, кто определил и использовал эту операцию. В прошлом произведение Кронекера иногда называли матрицей Зефусса .
Блочные версии произведения Кронекера [ править | править код ] В случае блочных матриц могут использоваться матричные операции, связанные c произведением Кронекера и отличающиеся порядком соответствующего перемножения блоков. Таковыми являются произведения Трейси – Сингха (англ. Tracy–Singh product ) и произведение Хатри — Рао .
Указанная операция перемножения блочных матриц заключается в том, что каждый блок левой матрицы умножается последовательно на блоки правой матрицы. При этом формируемая структура результирующей матрицы отличается от характерной для произведения Кронекера.
Произведение Трейси – Сингха определяется как[1] [2]
A
⊙
B
=
(
A
i
j
⊙
B
)
i
j
=
(
(
A
i
j
⊗
B
k
l
)
k
l
)
i
j
{\displaystyle \mathbf {A} \odot \mathbf {B} =\left(\mathbf {A} _{ij}\odot \mathbf {B} \right)_{ij}=\left(\left(\mathbf {A} _{ij}\otimes \mathbf {B} _{kl}\right)_{kl}\right)_{ij}}
Например:
A
=
[
A
11
A
12
A
21
A
22
]
=
[
1
2
3
4
5
6
7
8
9
]
,
B
=
[
B
11
B
12
B
21
B
22
]
=
[
1
4
7
2
5
8
3
6
9
]
,
{\displaystyle \mathbf {A} =\left[{\begin{array}{c | c}\mathbf {A} _{11}&\mathbf {A} _{12}\\\hline \mathbf {A} _{21}&\mathbf {A} _{22}\end{array}}\right]=\left[{\begin{array}{c c | c}1&2&3\\4&5&6\\\hline 7&8&9\end{array}}\right],\quad \mathbf {B} =\left[{\begin{array}{c | c}\mathbf {B} _{11}&\mathbf {B} _{12}\\\hline \mathbf {B} _{21}&\mathbf {B} _{22}\end{array}}\right]=\left[{\begin{array}{c | c c}1&4&7\\\hline 2&5&8\\3&6&9\end{array}}\right],}
A
⊙
B
=
[
A
11
⊙
B
A
12
⊙
B
A
21
⊙
B
A
22
⊙
B
]
=
[
A
11
⊗
B
11
A
11
⊗
B
12
A
12
⊗
B
11
A
12
⊗
B
12
A
11
⊗
B
21
A
11
⊗
B
22
A
12
⊗
B
21
A
12
⊗
B
22
A
21
⊗
B
11
A
21
⊗
B
12
A
22
⊗
B
11
A
22
⊗
B
12
A
21
⊗
B
21
A
21
⊗
B
22
A
22
⊗
B
21
A
22
⊗
B
22
]
=
[
1
2
4
7
8
14
3
12
21
4
5
16
28
20
35
6
24
42
2
4
5
8
10
16
6
15
24
3
6
6
9
12
18
9
18
27
8
10
20
32
25
40
12
30
48
12
15
24
36
30
45
18
36
54
7
8
28
49
32
56
9
36
63
14
16
35
56
40
64
18
45
72
21
24
42
63
48
72
27
54
81
]
.
{\displaystyle {\begin{aligned}\mathbf {A} \odot \mathbf {B} =\left[{\begin{array}{c | c}\mathbf {A} _{11}\odot \mathbf {B} &\mathbf {A} _{12}\odot \mathbf {B} \\\hline \mathbf {A} _{21}\odot \mathbf {B} &\mathbf {A} _{22}\odot \mathbf {B} \end{array}}\right]={}&\left[{\begin{array}{c | c | c | c}\mathbf {A} _{11}\otimes \mathbf {B} _{11}&\mathbf {A} _{11}\otimes \mathbf {B} _{12}&\mathbf {A} _{12}\otimes \mathbf {B} _{11}&\mathbf {A} _{12}\otimes \mathbf {B} _{12}\\\hline \mathbf {A} _{11}\otimes \mathbf {B} _{21}&\mathbf {A} _{11}\otimes \mathbf {B} _{22}&\mathbf {A} _{12}\otimes \mathbf {B} _{21}&\mathbf {A} _{12}\otimes \mathbf {B} _{22}\\\hline \mathbf {A} _{21}\otimes \mathbf {B} _{11}&\mathbf {A} _{21}\otimes \mathbf {B} _{12}&\mathbf {A} _{22}\otimes \mathbf {B} _{11}&\mathbf {A} _{22}\otimes \mathbf {B} _{12}\\\hline \mathbf {A} _{21}\otimes \mathbf {B} _{21}&\mathbf {A} _{21}\otimes \mathbf {B} _{22}&\mathbf {A} _{22}\otimes \mathbf {B} _{21}&\mathbf {A} _{22}\otimes \mathbf {B} _{22}\end{array}}\right]\\={}&\left[{\begin{array}{c c | c c c c | c | c c}1&2&4&7&8&14&3&12&21\\4&5&16&28&20&35&6&24&42\\\hline 2&4&5&8&10&16&6&15&24\\3&6&6&9&12&18&9&18&27\\8&10&20&32&25&40&12&30&48\\12&15&24&36&30&45&18&36&54\\\hline 7&8&28&49&32&56&9&36&63\\\hline 14&16&35&56&40&64&18&45&72\\21&24&42&63&48&72&27&54&81\end{array}}\right].\end{aligned}}}
Данный вариант умножения определён для матриц с одинаковой блочной структурой. Он предусматривает, что операция кронекеровского произведения выполняется поблочно, в пределах одноимённых матричных блоков по аналогии с поэлементным произведением Адамара , только при этом в качестве элементов фигурируют блоки матриц, а для умножения блоков используется кронекеровское произведение.
↑ Tracy, D. S.; Singh, R. P. (1972). "A New Matrix Product and Its Applications in Matrix Differentiation". Statistica Neerlandica . 26 (4): 143—157. doi :10.1111/j.1467-9574.1972.tb00199.x . ↑ Liu, S. (1999). "Matrix Results on the Khatri–Rao and Tracy–Singh Products". Linear Algebra and Its Applications . 289 (1—3): 267—277. doi :10.1016/S0024-3795(98)10209-4 .
Хорн Р. Матричный анализ: Пер. с англ. / Р. Хорн, Ч. Джонсон. – М.: Мир, 1989.– 655 с. 
![{\displaystyle \mathbf {A} =\left[{\begin{array}{c | c}\mathbf {A} _{11}&\mathbf {A} _{12}\\\hline \mathbf {A} _{21}&\mathbf {A} _{22}\end{array}}\right]=\left[{\begin{array}{c c | c}1&2&3\\4&5&6\\\hline 7&8&9\end{array}}\right],\quad \mathbf {B} =\left[{\begin{array}{c | c}\mathbf {B} _{11}&\mathbf {B} _{12}\\\hline \mathbf {B} _{21}&\mathbf {B} _{22}\end{array}}\right]=\left[{\begin{array}{c | c c}1&4&7\\\hline 2&5&8\\3&6&9\end{array}}\right],}](https://wikimedia.org/api/rest_v1/media/math/render/svg/a53cde028551100b310943f25b2028a764436687)
![{\displaystyle {\begin{aligned}\mathbf {A} \odot \mathbf {B} =\left[{\begin{array}{c | c}\mathbf {A} _{11}\odot \mathbf {B} &\mathbf {A} _{12}\odot \mathbf {B} \\\hline \mathbf {A} _{21}\odot \mathbf {B} &\mathbf {A} _{22}\odot \mathbf {B} \end{array}}\right]={}&\left[{\begin{array}{c | c | c | c}\mathbf {A} _{11}\otimes \mathbf {B} _{11}&\mathbf {A} _{11}\otimes \mathbf {B} _{12}&\mathbf {A} _{12}\otimes \mathbf {B} _{11}&\mathbf {A} _{12}\otimes \mathbf {B} _{12}\\\hline \mathbf {A} _{11}\otimes \mathbf {B} _{21}&\mathbf {A} _{11}\otimes \mathbf {B} _{22}&\mathbf {A} _{12}\otimes \mathbf {B} _{21}&\mathbf {A} _{12}\otimes \mathbf {B} _{22}\\\hline \mathbf {A} _{21}\otimes \mathbf {B} _{11}&\mathbf {A} _{21}\otimes \mathbf {B} _{12}&\mathbf {A} _{22}\otimes \mathbf {B} _{11}&\mathbf {A} _{22}\otimes \mathbf {B} _{12}\\\hline \mathbf {A} _{21}\otimes \mathbf {B} _{21}&\mathbf {A} _{21}\otimes \mathbf {B} _{22}&\mathbf {A} _{22}\otimes \mathbf {B} _{21}&\mathbf {A} _{22}\otimes \mathbf {B} _{22}\end{array}}\right]\\={}&\left[{\begin{array}{c c | c c c c | c | c c}1&2&4&7&8&14&3&12&21\\4&5&16&28&20&35&6&24&42\\\hline 2&4&5&8&10&16&6&15&24\\3&6&6&9&12&18&9&18&27\\8&10&20&32&25&40&12&30&48\\12&15&24&36&30&45&18&36&54\\\hline 7&8&28&49&32&56&9&36&63\\\hline 14&16&35&56&40&64&18&45&72\\21&24&42&63&48&72&27&54&81\end{array}}\right].\end{aligned}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/68dbf060c91b25a88aa31e8340b7f2a7c1783df1)
