基本変形により

$\begin{eqnarray*} \begin{pmatrix} 1 & -4 & 4 \\ 1 & -1 & a \\ 2 & -3 & a \end{pmatrix} & \longrightarrow & \begin{pmatrix} 1 & -4 & 4 \\ 0 & 3 & a-4 \\ 0 & 5 & a-8 \end{pmatrix}\\[1em] & \longrightarrow & \begin{pmatrix} 1 & -4 & 4 \\ 0 & 1 & \dfrac{a-4}{3} \\ 0 & 5 & a-8 \end{pmatrix}\\[1em] & \longrightarrow & \begin{pmatrix} 1 & -4 & 4 \\ 0 & 1 & \dfrac{a-4}{3} \\ 0 & 0 & -\dfrac{2}{3}(a+2) \end{pmatrix} \end{eqnarray*}$

階数が $2$ である時

$-\dfrac{2}{3}(a+2)=0$

よって $a=-2$ である。

基本変形により

$\begin{eqnarray*} \begin{pmatrix} 1 & 0 & -1 \\ -3 & a & 5 \\ a & a & -2 \end{pmatrix} & \longrightarrow & \begin{pmatrix} 1 & 0 & -1 \\ 0 & a & 2 \\ 0 & a & a -2 \end{pmatrix}\\[1em] & \longrightarrow & \begin{pmatrix} 1 & 0 & -1 \\ 0 & a & 2 \\ 0 & 0 & a-4 \end{pmatrix}\end{eqnarray*}$

$a\not=0$ より, $A$ の階数が $2$ である時

$a-4=0$

よって $a=4$ である。

基本変形により

$\begin{eqnarray*} \begin{pmatrix} 1 & 2 & -1 \\ -4 & 1 & -a \\ 4 & a & 0 \end{pmatrix} & \longrightarrow & \begin{pmatrix} 1 & 2 & -1 \\ 0 & 9 & -a -4 \\ 0 & a-8 & 4 \end{pmatrix}\\[1em] & \longrightarrow & \begin{pmatrix} 1 & 2 & -1 \\ 0 & 1 & -\dfrac{1}{9}(a+4) \\ 0 & a-8 & 4 \end{pmatrix}\\[1em] & \longrightarrow & \begin{pmatrix} 1 & 2 & -1 \\ 0 & 1 & -\dfrac{1}{9}(a+4) \\ 0 & 0 & 4 + \dfrac{1}{9}(a+4)(a-8) \end{pmatrix}\end{eqnarray*}$

$A$ の階数が $2$ の時

$4 + \dfrac{1}{9}(a+4)(a-8) = 0$

ここで

$\begin{eqnarray*} 4 + \dfrac{1}{9}(a+4)(a-8) & = & \dfrac{1}{9} ( 36 + a^2 - 4a - 32)\\[1em] & = & \dfrac{1}{9}(a^2 - 4a + 4)\\[1em] & = & \dfrac{1}{9}(a-2)^2 =0 \end{eqnarray*}$

よって $a=2$ である。

行基本変形により

$\begin{eqnarray*} \begin{pmatrix} 1 & -1 & -1 \\ -4 & 3 & a+2 \\ 2 & a & 2 \end{pmatrix} & \longrightarrow & \begin{pmatrix} 1 & -1 & -1 \\ 0 & -1 & a-2 \\ 0 & a +2 & 4 \end{pmatrix}\\[1em] & \longrightarrow & \begin{pmatrix} 1 & -1 & -1 \\ 0 & -1 & a-2 \\ 0 & 0 & 4 + (a-2)(a+2) \end{pmatrix}\end{eqnarray*}$

$A$ の階数が $2$ の時

$\begin{eqnarray*} 4 + (a-2)(a+2) & = & 4 + (a^2 - 4)\\[1em] & = & a^2 = 0 \end{eqnarray*}$

よって $a=0$ である。

行基本変形により

$\begin{eqnarray*} \begin{pmatrix} 1 & 4 & -2 \\ 0 & 4 & a \\ -1 & -a & 3 \end{pmatrix} & \longrightarrow & \begin{pmatrix} 1 & 4 & -2 \\ 0 & 4 & a \\ 0 & -a+4 & 1 \end{pmatrix}\\[1em] & \longrightarrow & \begin{pmatrix} 1 & 4 & -2 \\ 0 & 1 & \dfrac{a}{4} \\ 0 & -a+4 & 1 \end{pmatrix}\\[1em] & \longrightarrow & \begin{pmatrix} 1 & 4 & -2 \\ 0 & 1 & \dfrac{a}{4} \\ 0 & 0 & 1 + \dfrac{a(a-4)}{4} \end{pmatrix}\end{eqnarray*}$

$A$ の階数が $2$ である時

$\begin{eqnarray*} 1 + \dfrac{a(a-4)}{4} & = & \dfrac{1}{4}(4 + a(a-4))\\[1em] & = & \dfrac{1}{4}(a^2 - 4a +4)\\[1em] & = & \dfrac{1}{4}(a-2)^2 = 0 \end{eqnarray*}$

よって $a=2$ である。