$\begin{pmatrix} 1 & 3 & -2 \\ 4 & 4 & -4 \\ -4 & 0 & 2 \end{pmatrix} \begin{pmatrix} x \\ y \\ z \end{pmatrix} = \begin{pmatrix} 0 \\ 0 \\ 0 \end{pmatrix}$

とする。

線形変換の表現行列を行基本変形すると

$\begin{eqnarray*} \begin{pmatrix} 1 & 3 & -2 \\ 4 & 4 & -4 \\ -4 & 0 & 2 \end{pmatrix} & \longrightarrow & \begin{pmatrix} 1 & 3 & -2 \\ 0 & -8 & 4 \\ 0 & 12 & -6 \end{pmatrix} \\[1em] & \longrightarrow & \begin{pmatrix} 1 & 3 & -2 \\ 0 & 2 & -1 \\ 0 & 2 & -1 \end{pmatrix} \\[1em] & \longrightarrow & \begin{pmatrix} 1 & 3 & -2 \\ 0 & 1 & -\dfrac{1}{2} \\ 0 & 0 & 0 \end{pmatrix}\\[1em] & \longrightarrow & \begin{pmatrix} 1 & 0 & - \dfrac{1}{2} \\ 0 & 1 & - \dfrac{1}{2} \\ 0 & 0 & 0 \end{pmatrix} \end{eqnarray*}$

よって

$\begin{pmatrix} 1 & 0 & - \dfrac{1}{2} \\ 0 & 1 & - \dfrac{1}{2} \\ 0 & 0 & 0 \end{pmatrix} \begin{pmatrix} x \\ y \\ z \end{pmatrix} = \begin{pmatrix} 0 \\ 0 \\ 0 \end{pmatrix}$

が成り立つ。

$\begin{pmatrix} 1 & 0 & - \dfrac{1}{2} \\ 0 & 1 & - \dfrac{1}{2} \\ 0 & 0 & 0 \end{pmatrix} \begin{pmatrix} x \\ y \\ z \end{pmatrix} = \begin{pmatrix} x- \dfrac{z}{2} \\ y - \dfrac{z}{2} \\ 0 \end{pmatrix}$

より

$x = y = \dfrac{z}{2}$

よってこの線形変換で原点に移される点は, 原点を通り $\begin{pmatrix} 1 \\ 1 \\ 2 \end{pmatrix}$ を方向ベクトルに持つ直線, 

すなわち, 方程式 $x = y = \dfrac{z}{2}$ で表される直線上の点である。

※注意

線形変換 $f$ に対し, $f(\overrightarrow{x})=\overrightarrow{0}$ を満たす $\overrightarrow{x}$ 全体を $f$ の 核 という。