基本変形により

$\begin{eqnarray*} \begin{pmatrix} 1 & 2 & -1 \\ -4 & 1 & -a \\ 4 & a & 0 \end{pmatrix} & \longrightarrow & \begin{pmatrix} 1 & 2 & -1 \\ 0 & 9 & -a -4 \\ 0 & a-8 & 4 \end{pmatrix}\\[1em] & \longrightarrow & \begin{pmatrix} 1 & 2 & -1 \\ 0 & 1 & -\dfrac{1}{9}(a+4) \\ 0 & a-8 & 4 \end{pmatrix}\\[1em] & \longrightarrow & \begin{pmatrix} 1 & 2 & -1 \\ 0 & 1 & -\dfrac{1}{9}(a+4) \\ 0 & 0 & 4 + \dfrac{1}{9}(a+4)(a-8) \end{pmatrix}\end{eqnarray*}$

$A$ の階数が $2$ の時

$4 + \dfrac{1}{9}(a+4)(a-8) = 0$

ここで

$\begin{eqnarray*} 4 + \dfrac{1}{9}(a+4)(a-8) & = & \dfrac{1}{9} ( 36 + a^2 - 4a - 32)\\[1em] & = & \dfrac{1}{9}(a^2 - 4a + 4)\\[1em] & = & \dfrac{1}{9}(a-2)^2 =0 \end{eqnarray*}$

よって $a=2$ である。