$\begin{pmatrix} 1 & 5 & 0 \\ -1 & 1 & -1 \\ 1 & -1 & 1 \end{pmatrix} \begin{pmatrix} x \\ y \\ z \end{pmatrix} = \begin{pmatrix} 0 \\ 0 \\ 0 \end{pmatrix}$

とする。

線形変換の表現行列を行基本変形すると

$\begin{eqnarray*} \begin{pmatrix} 1 & 5 & 0 \\ -1 & 1 & -1 \\ 1 & -1 & 1 \end{pmatrix} & \longrightarrow & \begin{pmatrix} 1 & 5 & 0 \\ 0 & 6 & -1 \\ 0 & -6 & 1 \end{pmatrix} \\[1em] & \longrightarrow & \begin{pmatrix} 1 & 5 & 0 \\ 0 & 6 & -1 \\ 0 & 0 & 0 \end{pmatrix} \end{eqnarray*}$

よって

$\begin{pmatrix} 1 & 5 & 0 \\ 0 & 6 & -1 \\ 0 & 0 & 0 \end{pmatrix} \begin{pmatrix} x \\ y \\ z \end{pmatrix} = \begin{pmatrix} 0 \\ 0 \\ 0 \end{pmatrix}$

が成り立つ。

$\begin{pmatrix} 1 & 5 & 0 \\ 0 & 6 & -1 \\ 0 & 0 & 0 \end{pmatrix} \begin{pmatrix} x \\ y \\ z \end{pmatrix} = \begin{pmatrix} x+5y \\ 6y - z \\ 0 \end{pmatrix}$

より

$x = -5y~$ かつ $~z = 6y$

であるから

$\begin{pmatrix} x \\ y \\ z \end{pmatrix} = \begin{pmatrix} -5y \\ y \\ 6y \end{pmatrix}= y\begin{pmatrix} -5 \\ 1 \\ 6 \end{pmatrix}$

よってこの線形変換で原点に移される点は, 原点を通り $\begin{pmatrix} -5 \\ 1 \\ 6 \end{pmatrix}$ を方向ベクトルに持つ直線, 

すなわち, 方程式 $-\dfrac{x}{5} = y = \dfrac{z}{6}$ で表される直線上の点である。

※注意

線形変換 $f$ に対し, $f(\overrightarrow{x})=\overrightarrow{0}$ を満たす $\overrightarrow{x}$ 全体を $f$ の 核 という。