解:(1)由题意知得 (2)由(1)知M(1,1), 直线OM的方程为y=x,
设A(x1,y1),B(x2,y2),线段AB的中点为Q(m,m). 由题意知, 设直线AB的斜率为k(k≠0). 由 得(y1-y2)(y1+y2)=x1-x2, 故k·2m=1, 所以直线AB的方程为y-m=(x-m), 即x-2my+2m2-m=0. 由消去x, 整理得y2-2my+2m2-m=0, 所以Δ=4m-4m2>0, y1+y2=2m,y1y2=2m2-m. 从而|AB|=·|y1-y2|=·. 设点P到直线AB的距离为d, 则d=. 设△ABP的面积为S,则 S=|AB|·d=|1-2(m-m2)|·. 由Δ=4m-4m2>0,得0<m<1. 令u=,0<u≤,则S=u(1-2u2). 设S(u)=u(1-2u2),0<u≤,则S′(u)=1-6u2. 由S′(u)=0,得u=∈, 因此S(u)在单调递增,在单调递减, 所以S(u)max=S=. 故△ABP面积的最大值为. |