解:(1)由题意知 得![](http://img.shitiku.com.cn/uploads/allimg/20191025/20191025215651-48413.png) (2)由(1)知M(1,1), 直线OM的方程为y=x,
![](http://img.shitiku.com.cn/uploads/allimg/20191025/20191025215652-52323.jpg) 设A(x1,y1),B(x2,y2),线段AB的中点为Q(m,m). 由题意知, 设直线AB的斜率为k(k≠0). 由![](http://img.shitiku.com.cn/uploads/allimg/20191025/20191025215652-47542.png) 得(y1-y2)(y1+y2)=x1-x2, 故k·2m=1, 所以直线AB的方程为y-m= (x-m), 即x-2my+2m2-m=0. 由 消去x, 整理得y2-2my+2m2-m=0, 所以Δ=4m-4m2>0, y1+y2=2m,y1y2=2m2-m. 从而|AB|= ·|y1-y2|= · . 设点P到直线AB的距离为d, 则d= . 设△ABP的面积为S,则 S= |AB|·d=|1-2(m-m2)|· . 由Δ=4m-4m2>0,得0<m<1. 令u= ,0<u≤ ,则S=u(1-2u2). 设S(u)=u(1-2u2),0<u≤ ,则S′(u)=1-6u2. 由S′(u)=0,得u= ∈ , 因此S(u)在 单调递增,在 单调递减, 所以S(u)max=S = . 故△ABP面积的最大值为 . |