$ $$\begin{pmatrix} 1 & 5 & 0 \\ -1 & 1 & -1 \\ 1 & -1 & 1 \end{pmatrix}$$   $$\begin{pmatrix} x \\ y \\ z \end{pmatrix}$$ = $$\begin{pmatrix} 0 \\ 0 \\ 0 \end{pmatrix}$$ $

とする。

線形変換の表現行列を行基本変形すると

$ $$\begin{eqnarray*} \begin{pmatrix} 1 & 5 & 0 \\ -1 & 1 & -1 \\ 1 & -1 & 1 \end{pmatrix} & \longrightarrow & \begin{pmatrix} 1 & 5 & 0 \\ 0 & 6 & -1 \\ 0 & -6 & 1 \end{pmatrix} \\[1em] & \longrightarrow & \begin{pmatrix} 1 & 5 & 0 \\ 0 & 6 & -1 \\ 0 & 0 & 0 \end{pmatrix} \end{eqnarray*}$$ $

よって

$ $$\begin{pmatrix} 1 & 5 & 0 \\ 0 & 6 & -1 \\ 0 & 0 & 0 \end{pmatrix}$$   $$\begin{pmatrix} x \\ y \\ z \end{pmatrix}$$ = $$\begin{pmatrix} 0 \\ 0 \\ 0 \end{pmatrix}$$ $

が成り立つ。

$ $$\begin{pmatrix} 1 & 5 & 0 \\ 0 & 6 & -1 \\ 0 & 0 & 0 \end{pmatrix}$$   $$\begin{pmatrix} x \\ y \\ z \end{pmatrix}$$ = $$\begin{pmatrix} x+5y \\ 6y - z \\ 0 \end{pmatrix}$$ $

より

$x = -5y~$ かつ $~z = 6y$

であるから

$ $$\begin{pmatrix} x \\ y \\ z \end{pmatrix}$$ =  $$\begin{pmatrix} -5y \\ y \\ 6y \end{pmatrix}$$ = y $$\begin{pmatrix} -5 \\ 1 \\ 6 \end{pmatrix}$$ $

よってこの線形変換で原点に移される点は, 原点を通り $ $$\begin{pmatrix} -5 \\ 1 \\ 6 \end{pmatrix}$$ $ を方向ベクトルに持つ直線, 

すなわち, 方程式 $-\dfrac{x}{5} = y = \dfrac{z}{6}$ で表される直線上の点である。

※注意

線形変換 $f$ に対し, $f(\overrightarrow{x})=\overrightarrow{0}$ を満たす $\overrightarrow{x}$ 全体を $f$ の 核 という。