直線 $y = 2x + 4$ 上の点 $(x,2x+4)$ の像の座標を $(x',y')$ とすると

$\begin{eqnarray*} \begin{pmatrix} x' \\ y' \end{pmatrix} & = & \begin{pmatrix} 1 & 1 \\ a & b \end{pmatrix} \begin{pmatrix} x \\ 2x+4 \end{pmatrix}\\[1em] & = & \begin{pmatrix} 3x+4 \\ (a + 2b)x + 4b \end{pmatrix} \end{eqnarray*}$

よって

$\left\{ \begin{aligned} x' &= 3x+4 \\ y' &= (a+2b)x + 4b \end{aligned} \right.$

像が自分自身であることから $y' = 2x'+4$ が成り立つので, 代入すると

$(a+2b)x + 4b = 2(3x+4) + 4$

整理すると

$(a+2b)x + 4b = 6x + 12$

これが全ての $x$ で成り立つので

$\left\{ \begin{aligned} a + 2b &= 6 \\ 4b &= 12 \end{aligned} \right.$

これを解くと $a = 0$, $b = 3$ となる。

よって $a = 0$ である。