$-2x^2 - 6xy + 6y^2 = \begin{pmatrix} x & y \end{pmatrix} \begin{pmatrix} -2 & -3 \\ -3 & 6 \end{pmatrix}\begin{pmatrix} x \\ y \end{pmatrix}$

であるから $A = \begin{pmatrix} -2 & -3 \\ -3 & 6 \end{pmatrix}$ とすると,

標準形が $7x'^2 - 3y'^2$ であることから $A$ の固有値は $\lambda = 7,~-3$ である。

$\lambda = 7$ に対応する固有ベクトルを求めると

$\overrightarrow{v_1} = c_1\begin{pmatrix} 1 \\ -3 \end{pmatrix}$

同様に $\lambda = -3$ に対応する固有ベクトルを求めると

$\overrightarrow{v_2} = c_1\begin{pmatrix} 3 \\ 1 \end{pmatrix}$

となる。

$| \overrightarrow{v_1}| = | \overrightarrow{v_2}| = 1$ とすると

$c_1 = c_2 = \pm \dfrac{1}{\sqrt{10}}$ 

となるので

$T = \dfrac{1}{\sqrt{10}}\begin{pmatrix} 1 & 3 \\ -3 & 1 \end{pmatrix}$

とすれば $T$ は求める直交行列となる。

※注意

$T' = \dfrac{1}{\sqrt{10}}\begin{pmatrix} 3 & 1 \\ 1 & -3 \end{pmatrix}$

も対角化する直交行列であるが, $T'$ で標準形に直すと

$-3x'^2 + 7y'^2$

となり仮定に反するので, この場合は不適切である。