直線 $y = 5x - 1$ 上の点 $(x,5x-1)$ の像の座標を $(x',y')$ とすると

$\begin{eqnarray*} \begin{pmatrix} x' \\ y' \end{pmatrix} & = & \begin{pmatrix} a & b \\ 1 & 1 \end{pmatrix} \begin{pmatrix} x \\ 5x-1 \end{pmatrix}\\[1em] & = & \begin{pmatrix} (a + 5b)x - b \\ 6x - 1 \end{pmatrix} \end{eqnarray*}$

よって

$\left\{ \begin{aligned} x' &= (a+5b)x - b \\ y' &= 6x - 1 \end{aligned} \right.$

像が自分自身であることから $y' = 5x'-1$ が成り立つので, 代入すると

$6x - 1 = 5((a+5b)x - b) - 1$

整理すると

$6x - 1 = (5a + 25b)x - (5b + 1)$

これが全ての $x$ で成り立つので

$\left\{ \begin{aligned} 5a + 25b &= 6 \\ - (5b + 1) &= -1 \end{aligned} \right.$

これを解くと $a = \dfrac{6}{5}$, $b = 0$ となる。

よって $a = \dfrac{6}{5}$ である。