行列やベクトルに関係する数学のをまとめ

行列とベクトルの数学的な表記をまとめました。
E資格を取る人には必須の内容なので参考にしてください。

シャープ 行列とベクトルにかかわる数学の記号表記

記号	意味	例
A	行列	$(1234)\begin{pmatrix} 1 & 2 \\ 3 & 4 \end{pmatrix}$
A<sup>T</sup>	転置行列	$(1324)\begin{pmatrix} 1 & 3 \\ 2 & 4 \end{pmatrix}$
A<sup>-1</sup>	逆行列	$(−211.5−0.5)\begin{pmatrix} -2 & 1 \\ 1.5 & -0.5 \end{pmatrix}$
det(A)	行列式	det($(1234)\begin{pmatrix} 1 & 2 \\ 3 & 4 \end{pmatrix}$) = -2
tr(A)	トレース	tr($(1234)\begin{pmatrix} 1 & 2 \\ 3 & 4 \end{pmatrix}$) = 5
A<sup>*</sup>	随伴行列
I<sub>n</sub>	n次の単位行列	$(1001)\begin{pmatrix} 1 & 0 \\ 0 & 1 \end{pmatrix}$
0	零行列	$(0000)\begin{pmatrix} 0 & 0 \\ 0 & 0 \end{pmatrix}$
x	ベクトル	$(12)\begin{pmatrix} 1 \\ 2 \end{pmatrix}$
x<sup>T</sup>	ベクトルの転置 (行ベクトル)	(1 2)
|x|	ベクトルの大きさ (ノルム)	$12+22=5\sqrt{1^2 + 2^2} = \sqrt{5}$
e<sub>i</sub>	基本ベクトル	e<sub>1</sub> = $(10)\begin{pmatrix} 1 \\ 0 \end{pmatrix}$
<x, y> or x・y	ベクトルの内積	<$(12)\begin{pmatrix} 1 \\ 2 \end{pmatrix}$, $(34)\begin{pmatrix} 3 \\ 4 \end{pmatrix}$> = 11
x × y	ベクトルの外積
A<sub>ij</sub>	行列Aの(i, j)成分
x<sub>i</sub>	ベクトルxのi番目の成分
||A||	行列のノルム （二十縦線）
λ (ラムダ)	固有値
|a|	絶対値	|x - a| xとaの差の絶対値を表す
分散σ²	分散シグマ2乗	σ² = (1/n) * Σ[i=1 to n] (xᵢ - x̄)²
平均x̄	平均エックスバー	x̄ = (1/n) * Σ[i=1 to n] xᵢ
標準偏差σ	標準偏差σ	σ = √σ²
平均μ	ミュー
η	イータ
ε	イプシロン
∇	ナブラ
∂	ラウンドディー、パーシャルディー
Xavier	ゼイヴィア

補足

• 太字はベクトルや行列を表します。
• 矢印の上に→を書いてベクトルを表すこともあります ($x⃗\vec{x}$)。
• 行列の成分は、A_ijのように添え字で表します。
• ベクトルの成分は、x_iのように添え字で表します。
• 内積は、<x, y> のように書くことも、x・y のように書くこともあります。
• 外積は、x × y のように書きます。
• λ (ラムダ) は、固有値を表す文字としてよく使われます。
• 行列のノルムは、二重縦線 (|| ||) で表されます。

表記の解釈の注意点

• これらの記号は、文脈によって意味が変わる場合があります。
• より複雑な記号や表記法もあります。

固有分解と対角化は、線形代数において重要な概念

記号	意味	数式
A	n次正方行列
P	正方行列 (列ベクトルはAの固有ベクトル)
D	対角行列 (対角成分はAの固有値)
P⁻¹	Pの逆行列
λᵢ	Aの固有値 (i = 1, 2, ..., n)
pᵢ	Aの固有ベクトル (i = 1, 2, ..., n)

固有分解

概念	数式
固有分解	A = PDP⁻¹
Aのn乗	Aⁿ = PDⁿP⁻¹

対角化

概念	数式
対角化	P⁻¹AP = D

固有値と固有ベクトル

概念	数式
固有値方程式	A pᵢ = λᵢ pᵢ

その他

概念	数式
トレース	tr(A) = Σλᵢ
行列式	det(A) = Πλᵢ
特異値分解	M = UΣVᵀ

対角行列、単位行列、対称行列、直交行列とは？

行列の種類	説明	具体例
対角行列	対角成分以外がすべて0である正方行列	$(2000−10003)\begin{pmatrix} 2 & 0 & 0 \\ 0 & -1 & 0 \\ 0 & 0 & 3 \end{pmatrix}$
単位行列	対角成分がすべて1で、対角成分以外がすべて0である正方行列	$(100010001)\begin{pmatrix} 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1 \end{pmatrix}$
対称行列	転置行列が元の行列と等しい正方行列 (A<sup>T</sup> = A)	$(2131−12324)\begin{pmatrix} 2 & 1 & 3 \\ 1 & -1 & 2 \\ 3 & 2 & 4 \end{pmatrix}$
直交行列	転置行列が逆行列と等しい正方行列 (A<sup>T</sup> = A⁻¹)	$(cos⁡θ−sin⁡θsin⁡θcos⁡θ)\begin{pmatrix} \cos\theta & -\sin\theta \\ \sin\theta & \cos\theta \end{pmatrix}$

補足

• 対角行列は、対角成分に任意の値をとることができます。
• 単位行列は、行列の乗算における単位元（1のような役割）を果たします。
• 対称行列は、力学や統計学など、様々な分野に現れます。
• 直交行列は、ベクトルの回転や鏡像変換を表す際に用いられます。

各行列の性質

• 対角行列:*
  • 対角成分のみに情報が集中しているため、計算が簡単になる。
  • 逆行列も対角行列であり、対角成分は元の行列の対角成分の逆数となる。
• 単位行列:*
  • 任意の行列との乗算において、相手の行列を変化させない。
  • 逆行列は単位行列自身である。
• 対称行列:*
  • 固有値はすべて実数である。
  • 固有ベクトルは互いに直交する。
  • 対角化可能である。
• 直交行列:*
  • 列ベクトル（または行ベクトル）は互いに直交し、大きさが1である。
  • 逆行列は転置行列と等しい。
  • 行列式は±1である。

特異値分解 (Singular Value Decomposition, SVD)

数式 M = UΣVᵀ は、特異値分解 (Singular Value Decomposition, SVD) と呼ばれる、行列分解の一種を表しています。この式は、線形代数学において非常に重要な概念であり、データ解析、機械学習、画像処理など、様々な分野で応用されています。

以下に、この式に含まれる各記号の意味と、特異値分解の概要を説明します。

記号の意味

• M: m×n の行列 (分解対象の行列)
• U: m×m の直交行列 (左特異ベクトルを列ベクトルとして持つ)
• Σ: m×n の対角行列 (特異値を対角成分に持つ)
• Vᵀ: n×n の直交行列 V の転置行列 (右特異ベクトルを列ベクトルとして持つ)

特異値分解 (SVD) の概要

特異値分解は、任意の行列 M を上記のように3つの行列の積に分解するものです。

• U: M の左特異ベクトルを列ベクトルとして持つ直交行列です。直交行列とは、転置行列が逆行列と等しくなる行列のことです。
• Σ: M の特異値を対角成分に持つ対角行列です。特異値は、通常、降順に並べられます。特異値は、行列 M の「特異性」を表す指標であり、その大きさは M の固有値の非負の平方根に等しくなります。
• V: M の右特異ベクトルを列ベクトルとして持つ直交行列です。Vᵀ は V の転置行列を表します。

特異値分解の意義

特異値分解は、行列の性質を理解したり、様々な問題を解決したりする上で非常に強力なツールとなります。主な応用例としては、以下のようなものが挙げられます。

• 次元削減: 特異値分解を利用して、行列の次元を削減することができます。特異値の大きい上位 k 個に対応する特異ベクトルだけを残し、残りの特異ベクトルを無視することで、元の行列を低次元で近似することができます。これは、高次元データを扱う際に有効な手法です。
• ノイズ除去: 特異値の小さい成分はノイズであると考えられる場合、それらを無視することで、ノイズの影響を軽減することができます。
• データ解析: 特異値分解は、データの潜在的な構造を明らかにするのに役立ちます。例えば、主成分分析 (PCA) は、特異値分解を応用した代表的な手法です。
• レコメンデーションシステム: 特異値分解は、レコメンデーションシステムにおいても、ユーザーの嗜好とアイテムの特性を分析するために利用されます。
• 画像処理: 画像データは行列として表現できるため、特異値分解を用いて画像の圧縮やノイズ除去などを行うことができます。

特異値分解の計算

特異値分解は、数値計算ライブラリ (例えば、Python の NumPy や SciPy) を用いて簡単に行うことができます。

まとめ

特異値分解は、行列を3つの行列の積に分解する強力な手法であり、様々な分野で応用されています。特異値分解によって得られる特異値や特異ベクトルは、行列の性質を理解したり、様々な問題を解決したりする上で重要な情報を提供してくれます。

ノルム値、特異値、p値、期待値の違い

項目	ノルム値	特異値	p値	期待値
意味	ベクトルや行列の大きさ、または強度を測る指標	行列の特異性を表す指標	統計学的仮説検定において、帰無仮説が正しいと仮定した場合に、観察されたデータが得られる確率	確率変数の平均値
対象	ベクトル、行列	行列	統計学的仮説検定	確率変数
性質	スカラー値（0以上の値）	スカラー値（0以上の値）	スカラー値（0から1の値）	スカラー値
計算方法	ベクトルの場合：ユークリッドノルム、マンハッタンノルムなど行列の場合：フロベニウスノルム、スペクトルノルムなど	特異値分解 (SVD) によって得られる対角行列の対角成分	帰無仮説が正しいと仮定して、検定統計量の確率分布から計算	確率変数が取りうるすべての値に、それぞれの確率を掛けて足し合わせる
用途	ベクトルの大きさや行列の強度を比較する、機械学習における正則化など	次元削減、ノイズ除去、データ解析、レコメンデーションシステムなど	統計学的仮説検定における有意性の判定	確率変数の平均的な値を把握する、意思決定における判断材料など

補足

• ノルム値は、ベクトルや行列の「大きさ」や「強度」を測るための指標です。様々な種類のノルムがあり、目的に応じて使い分けられます。
• 特異値は、行列の特異値を表す指標であり、特異値分解によって得られます。特異値は、行列の情報を圧縮したり、ノイズを除去したり、データの潜在的な構造を明らかにしたりするのに役立ちます。
• p値は、統計学的仮説検定において、帰無仮説が正しいと仮定した場合に、観察されたデータが得られる確率を表します。p値が小さいほど、帰無仮説が正しくない可能性が高いと考えられます。
• 期待値は、確率変数の平均値を表します。確率変数が取りうるすべての値に、それぞれの確率を掛けて足し合わせたものです。

LU分解、特異値分解、対角分解、成分分解の違い

分解の種類	対象行列	分解後の行列	特徴	用途例
LU分解	正方行列	下三角行列 (L) と上三角行列 (U) の積	正方行列を三角行列に分解することで、連立一次方程式の解を効率的に求めることができる	連立一次方程式の求解、逆行列の計算
特異値分解	任意の行列	直交行列 (U)、対角行列 (Σ)、直交行列の転置 (Vᵀ) の積	任意の行列を特異値と特異ベクトルに分解することで、行列の性質を解析したり、次元削減やノイズ除去に利用できる	データ解析、次元削減、画像処理、レコメンデーションシステム
対角分解	対角化可能な正方行列	正方行列 (P)、対角行列 (D)、正方行列の逆行列 (P⁻¹) の積	正方行列を固有値と固有ベクトルに分解することで、行列のn乗や指数関数などを簡単に計算できる	行列のn乗計算、微分方程式の求解
成分分解	任意の行列	複数の行列の和	行列をより単純な行列の和として表現することで、行列の性質を解析したり、計算を効率化したりできる	行列の性質解析、計算の効率化

補足

• LU分解は、正方行列を下三角行列と上三角行列の積に分解する手法です。連立一次方程式の解を効率的に求めることができます。
• 特異値分解は、任意の行列を3つの行列の積に分解する手法です。行列の特異値と特異ベクトルを求めることができ、データ解析や次元削減などに利用されます。
• 対角分解は、対角化可能な正方行列を固有値と固有ベクトルに分解する手法です。行列のn乗や指数関数などを簡単に計算することができます。
• 成分分解は、行列を複数の行列の和として表現する手法です。行列の性質を解析したり、計算を効率化したりすることができます。

注意点

• 上記の表は、代表的な分解手法をまとめたものであり、他にも様々な行列分解手法が存在します。
• 各分解手法には、適用できる行列の条件や、得られる行列の性質などが異なります。
• どの分解手法を用いるべきかは、対象となる行列の種類や、目的に応じて適切に選択する必要があります。