$-2x^2 - 6xy + 6y^2 = $$\begin{pmatrix} x & y \end{pmatrix}$$   $$\begin{pmatrix} -2 & -3 \\ -3 & 6 \end{pmatrix}$$ $$\begin{pmatrix} x \\ y \end{pmatrix}$$ $

であるから $A =  $$\begin{pmatrix} -2 & -3 \\ -3 & 6 \end{pmatrix}$$ $ とすると,

標準形が $7x'^2 - 3y'^2$ であることから $A$ の固有値は $\lambda = 7,~-3$ である。

$\lambda = 7$ に対応する固有ベクトルを求めると

$\overrightarrow{v_1} = c_1 $$\begin{pmatrix} 1 \\ -3 \end{pmatrix}$$ $

同様に $\lambda = -3$ に対応する固有ベクトルを求めると

$\overrightarrow{v_2} = c_1 $$\begin{pmatrix} 3 \\ 1 \end{pmatrix}$$ $

となる。

$| \overrightarrow{v_1}| = | \overrightarrow{v_2}| = 1$ とすると

$c_1 = c_2 = \pm \dfrac{1}{\sqrt{10}}$ 

となるので

$T = \dfrac{1}{\sqrt{10}} $$\begin{pmatrix} 1 & 3 \\ -3 & 1 \end{pmatrix}$$ $

とすれば $T$ は求める直交行列となる。

※注意

$T' = \dfrac{1}{\sqrt{10}} $$\begin{pmatrix} 3 & 1 \\ 1 & -3 \end{pmatrix}$$ $

も対角化する直交行列であるが, $T'$ で標準形に直すと

$-3x'^2 + 7y'^2$

となり仮定に反するので, この場合は不適切である。