已知二次型f(x1,x2,x3)=2(x1)^2+a(x2)^2+2x2x3经过正交变换（x1 x2 x3）=P（y1 y2 y3）化成了标准型f=(y2)^2+b(y3)^2,求a,b的值和所用正交

题目

已知二次型f(x1,x2,x3)=2(x1)^2+a(x2)^2+2x2x3经过正交变换（x1 x2 x3）=P（y1 y2 y3）化成了标准型f=(y2)^2+b(y3)^2,求a,b的值和所用正交变换的矩阵P.
--------------------------------------------------------------------------------------------------
（和下题有相似,请老师帮忙解答一下,谢谢）
http://zhidao.baidu.com/question/347582835.html?fr=qrl&cid=983&index=4&fr2=query
化成了标准型f=(y2)^2+b(y3)^2,应该是f=(y1)^2+b(y2)^2-y3^2

答案

解: 二次型f的矩阵 A=
2 0 0
0 a 1
0 1 0
相似于对角矩阵 B=diag(1,b,-1).
所以 tr(A)=2+a=tr(B)=b, 且 |A|=-2=|B|=-b
得 a=0, b=2.
所以 A=
2 0 0
0 0 1
0 1 0
且A的特征值为1,2,-1.
(A-E)X的基础解系为 a1=(0,1,1)^T
(A-2E)X的基础解系为 a2=(1,0,0)^T
(A+E)X的基础解系为 a3=(0,1,-1)^T
单位化得
a1=(0,1/√2,1/√2)^T
a3=(1,0,0)^T
a1=(0,1/√2,-1/√2)^T
令P=(a1,a2,a3), 则P为所求的正交矩阵.