$4x^2 + 6xy - 4y^2 = \begin{pmatrix} x & y \end{pmatrix} \begin{pmatrix} 4 & 3 \\ 3 & -4 \end{pmatrix}\begin{pmatrix} x \\ y \end{pmatrix}$

であるから $A = \begin{pmatrix} 4 & 3 \\ 3 & -4 \end{pmatrix}$ とすると,

標準形が $5x'^2 - 5y'^2$ であることから $A$ の固有値は $\lambda = 5,~-5$ である。

$\lambda = 5$ に対応する固有ベクトルを求めると

$\overrightarrow{v_1} = c_1\begin{pmatrix} 3 \\ 1 \end{pmatrix}$

同様に $\lambda = -5$ に対応する固有ベクトルを求めると

$\overrightarrow{v_2} = c_1\begin{pmatrix} 1 \\ -3 \end{pmatrix}$

となる。

$| \overrightarrow{v_1}| = | \overrightarrow{v_2}| = 1$ とすると

$c_1 = c_2 = \pm \dfrac{1}{\sqrt{10}}$ 

となるので

$T = \dfrac{1}{\sqrt{10}}\begin{pmatrix} 3 & 1 \\ 1 & -3 \end{pmatrix}$

とすれば $T$ は求める直交行列となる。

※注意

$T' = \dfrac{1}{\sqrt{10}}\begin{pmatrix} 1 & 3 \\ -3 & 1 \end{pmatrix}$

も対角化する直交行列であるが, $T'$ で標準形に直すと

$-5x'^2 + 5y'^2$

となり仮定に反するので, この場合は不適切である。