直線 $y = 2x + 1$ 上の点 $(x,2x+1)$ の像の座標を $(x',y')$ とすると

$ $$\begin{eqnarray*} \begin{pmatrix} x' \\ y' \end{pmatrix} & = & \begin{pmatrix} a & 1 \\ 1 & b \end{pmatrix} \begin{pmatrix} x \\ 2x+1 \end{pmatrix}\\[1em] & = & \begin{pmatrix} (a + 2)x+1 \\ (1 + 2b)x + b \end{pmatrix} \end{eqnarray*}$$ $

よって

$\left\{ $$\begin{aligned} x' &= (a+2)x+1 \\ y' &= ( 1 + 2b)x + b \end{aligned}$$ \right.$

像が自分自身であることから $y' = 2x'+1$ が成り立つので, 代入すると

$(1 + 2b)x + b = 2((a+2)x + 1) + 1$

整理すると

$(1 + 2b)x + b = (2a + 4)x + 3$

これが全ての $x$ で成り立つので

$\left\{ $$\begin{aligned} 1 + 2b &= 2a + 4 \\ b &= 3 \end{aligned}$$ \right.$

これを解くと $a = \dfrac{3}{2}$, $b = 3$ となる。

よって $b = 3$ である。