$4x^2 + 6xy - 4y^2 = $$\begin{pmatrix} x & y \end{pmatrix}$$   $$\begin{pmatrix} 4 & 3 \\ 3 & -4 \end{pmatrix}$$ $$\begin{pmatrix} x \\ y \end{pmatrix}$$ $

であるから $A =  $$\begin{pmatrix} 4 & 3 \\ 3 & -4 \end{pmatrix}$$ $ とすると,

標準形が $5x'^2 - 5y'^2$ であることから $A$ の固有値は $\lambda = 5,~-5$ である。

$\lambda = 5$ に対応する固有ベクトルを求めると

$\overrightarrow{v_1} = c_1 $$\begin{pmatrix} 3 \\ 1 \end{pmatrix}$$ $

同様に $\lambda = -5$ に対応する固有ベクトルを求めると

$\overrightarrow{v_2} = c_1 $$\begin{pmatrix} 1 \\ -3 \end{pmatrix}$$ $

となる。

$| \overrightarrow{v_1}| = | \overrightarrow{v_2}| = 1$ とすると

$c_1 = c_2 = \pm \dfrac{1}{\sqrt{10}}$ 

となるので

$T = \dfrac{1}{\sqrt{10}} $$\begin{pmatrix} 3 & 1 \\ 1 & -3 \end{pmatrix}$$ $

とすれば $T$ は求める直交行列となる。

※注意

$T' = \dfrac{1}{\sqrt{10}} $$\begin{pmatrix} 1 & 3 \\ -3 & 1 \end{pmatrix}$$ $

も対角化する直交行列であるが, $T'$ で標準形に直すと

$-5x'^2 + 5y'^2$

となり仮定に反するので, この場合は不適切である。