$\theta$ は第 $2$ 象限の角なので $\cos \theta \lt 0$ となります。

$\cos \theta = - \sqrt{1 - \sin^2 \theta} = -\sqrt{1 - \dfrac{144}{169}} = -\dfrac{5}{13}$

倍角の公式より

$\sin 2\theta = 2\sin \theta \cos \theta = 2\cdot \dfrac{12}{13}\cdot \left( -\dfrac{5}{13} \right) = -\dfrac{120}{169}$

倍角の公式より

$\cos 2\theta = 1 - 2\sin^2 \theta = 1 - 2\cdot \left( \dfrac{8}{17}\right)^2 = \dfrac{161}{289}$

積和の公式より

$\cos \alpha \cos \beta = \dfrac{1}{2}\left( \cos ( \alpha + \beta) + \cos (\alpha - \beta) \right)$

であるから

$\cos 5\theta \cos 9\theta = \dfrac{1}{2}\left( \cos 14 \theta + \cos (-4\theta) \right)= \dfrac{1}{2}\left( \cos 14 \theta + \cos 4\theta \right)$

和積の公式より

$\cos A + \cos B = 2\cos \dfrac{A+B}{2} \cos \dfrac{A-B}{2}$

であるから

$\cos 5\theta + \cos 9\theta = 2\cos \dfrac{14\theta}{2} \cos \dfrac{-4\theta}{2} = 2\cos 7\theta \cos (-2\theta) = 2\cos 7\theta \cos 2\theta$

倍角の公式と加法定理を利用すると

$\begin{eqnarray*}\sin 3\theta & = & \sin (2 \theta + \theta)\\[0.5em] & = & \sin 2\theta \cos \theta + \cos 2\theta \sin \theta\\[0.5em] & = & 2\sin \theta \cos^2 \theta + ( 1- 2\sin^2 \theta)\sin \theta\\[0.5em] & = & 2\sin \theta(1 - \sin^2 \theta) + \sin \theta - 2\sin^3 \theta\\[0.5em] & = & 3\sin \theta - 4\sin^3\theta\end{eqnarray*}$

また

$\begin{eqnarray*}\cos 3\theta & = & \cos (2 \theta + \theta)\\[0.5em] & = & \cos 2\theta \cos \theta - \sin 2\theta \sin \theta\\[0.5em] & = & (2\cos^2 \theta -1) \cos \theta - 2\sin^2 \theta \cos \theta\\[0.5em] & = & 2\cos^3 \theta - \cos \theta - 2(1 - \cos^2 \theta ) \cos \theta\\[0.5em] & = & -3\cos \theta + 4\cos^3\theta\end{eqnarray*}$

三角関数の合成

$a\sin x + b\cos x = \sqrt{a^2 + b^2}\sin(x+\alpha)$

(ただし $\sin \alpha = \dfrac{a}{\sqrt{a^2+b^2}}$, $\cos \alpha = \dfrac{b}{\sqrt{a^2+b^2}}$ )

を利用します。

(1)

$12\sin x + 16\cos x =\sqrt{12^2 + 16^2}\sin (x+\alpha) = 20\sin(x+\alpha)$

であり, この時

$\sin \alpha = \dfrac{12}{20} = \dfrac{3}{5}$

$\cos \alpha = \dfrac{16}{20} = \dfrac{4}{5}$

が成り立ちます。

(2)
(1)より

$\begin{eqnarray*} y & = & 12\sin x + 16\cos x \\[0.5em] & = & 20\sin(x+\alpha)\end{eqnarray*}$

ここで, $-1 \leqq \sin (x+\alpha) \leqq 1$ であるから

$-20 \leqq 20 \sin (x+\alpha) \leqq 20$

よって

$-20 \leqq 12\sin x + 16\cos x \leqq 20$

が成り立ちます。特に $x = \dfrac{\pi}{2} - \alpha$ とすれば

$20 \sin \left( \left( \dfrac{\pi}{2} - \alpha\right) + \alpha \right) = 20 \sin \dfrac{\pi}{2}= 20$

よって, この関数の最大値は $20$ になります。