$3x^2 - 2xy + 3y^2 = \begin{pmatrix} x & y \end{pmatrix} \begin{pmatrix} 3 & -1 \\ -1 & 3 \end{pmatrix}\begin{pmatrix} x \\ y \end{pmatrix}$

であるから $A = \begin{pmatrix} 3 & -1 \\ -1 & 3 \end{pmatrix}$ とすると,

標準形が $4x'^2 + 2y'^2$ であることから $A$ の固有値は $\lambda = 4,~2$ である。

$\lambda = 4$ に対応する固有ベクトルを求めると

$\overrightarrow{v_1} = c_1\begin{pmatrix} 1 \\ -1 \end{pmatrix}$

同様に $\lambda = -5$ に対応する固有ベクトルを求めると

$\overrightarrow{v_2} = c_1\begin{pmatrix} 1 \\ 1 \end{pmatrix}$

となる。

$| \overrightarrow{v_1}| = | \overrightarrow{v_2}| = 1$ とすると

$c_1 = c_2 = \pm \dfrac{1}{\sqrt{2}}$ 

となるので

$T = \dfrac{1}{\sqrt{2}}\begin{pmatrix} 1 & 1 \\ -1 & 1 \end{pmatrix}$

とすれば $T$ は求める直交行列となる。

※注意

$T' = \dfrac{1}{\sqrt{2}}\begin{pmatrix} 1 & 1 \\ 1 & -1 \end{pmatrix}$

も対角化する直交行列であるが, $T'$ で標準形に直すと

$2x'^2 + 4y'^2$

となり仮定に反するので, この場合は不適切である。