グラム行列の定義と性質:線形代数の基礎から応用まで
目次
グラム行列とは
グラム行列は、内積空間においてベクトルの集合の内積を要素とする行列です。具体的には、ベクトル \( \boldsymbol{v}_1, \boldsymbol{v}_2, \dots, \boldsymbol{v}_n \) に対して、グラム行列 \( G \) は以下のように定義されます:
\[ G = \begin{pmatrix} \langle \boldsymbol{v}_1, \boldsymbol{v}_1 \rangle & \cdots & \langle \boldsymbol{v}_1, \boldsymbol{v}_n \rangle \\ \vdots & \ddots & \vdots \\ \langle \boldsymbol{v}_n, \boldsymbol{v}_1 \rangle & \cdots & \langle \boldsymbol{v}_n, \boldsymbol{v}_n \rangle \end{pmatrix} \]
ここで、\( \langle \cdot, \cdot \rangle \) は内積を表します。ベクトルを列ベクトルとして並べた行列 \( A = [\boldsymbol{v}_1 \ \boldsymbol{v}_2 \ \cdots \ \boldsymbol{v}_n] \) を用いると、グラム行列は次のように表されます:
\[ G = A^* A \]
ここで、\( A^* \) は \( A \) の随伴行列(複素共役転置)です。実数ベクトルの場合は、\( A^* = A^\top \) となります。
グラム行列の主な性質
グラム行列には以下のような重要な性質があります:
- エルミート行列であること:グラム行列 \( G \) はエルミート行列、すなわち \( G = G^* \) を満たします。実数ベクトルの場合は対称行列となります。
- 半正定値行列であること:任意のベクトル \( \boldsymbol{x} \) に対して、\( \boldsymbol{x}^* G \boldsymbol{x} \geq 0 \) が成り立ちます。これは、グラム行列が半正定値であることを意味します。
- 行列式が非負であること:グラム行列の行列式は非負の実数です。具体的には、\( \det G = |\det A|^2 \geq 0 \) が成り立ちます。
具体例
以下に、グラム行列の具体的な例を示します。
例1:実数ベクトルの場合
ベクトル \( \boldsymbol{v}_1 = \begin{pmatrix}1 \\ 0\end{pmatrix} \)、\( \boldsymbol{v}_2 = \begin{pmatrix}1 \\ 1\end{pmatrix} \) を考えます。これらを列ベクトルとして並べた行列 \( A \) は:
\[ A = \begin{pmatrix} 1 & 1 \\ 0 & 1 \end{pmatrix} \]
このとき、グラム行列 \( G = A^\top A \) は:
\[ G = \begin{pmatrix} 1 & 1 \\ 1 & 2 \end{pmatrix} \]
例2:関数空間の場合
関数空間において、関数 \( f_i(t) = t^{i-1} \)(\( i = 1, 2, \dots, n \))を考え、内積を \( \langle f_i, f_j \rangle = \int_0^1 f_i(t) f_j(t) dt \) と定義します。このとき、グラム行列の \( (i,j) \) 成分は:
\[ G_{ij} = \int_0^1 t^{i-1} t^{j-1} dt = \frac{1}{i + j – 1} \]
これは、ヒルベルト行列と呼ばれる有名な行列の一例です。
応用例
グラム行列は、以下のようなさまざまな分野で応用されています。
1. 線形独立性の判定
ベクトル集合が線形独立であるかどうかは、対応するグラム行列の行列式がゼロでないかどうかで判定できます。すなわち、\( \det G \neq 0 \) ならば、ベクトル集合は線形独立です。
2. 正規直交基底の構成
線形独立なベクトル集合から正規直交基底を構成する際に、グラム行列の逆平方根を用いる方法があります。具体的には、\( U = V G^{-1/2} \) とすることで、正規直交基底 \( U \) を得ることができます。
3. 機械学習におけるカーネル法
機械学習のカーネル法では、データ点間の内積をカーネル関数で置き換えたグラム行列(カーネル行列)を用いて、非線形な特徴空間での学習を行います。これにより、高次元空間での計算を効率的に行うことができます。
4. 画像スタイル変換
画像処理におけるスタイル変換では、特徴マップ間の相関を捉えるためにグラム行列が用いられます。これにより、画像のスタイル情報を抽出し、他の画像に適用することが可能になります。