解:(1)∵a=1,b=-2时,f(x)=x2-x-3, f(x)=x⇒x2-2x-3=0⇒x=-1,x=3, ∴函数f(x)的不动点为-1和3. (2)即f(x)=ax2+(b+1)x+b-1=x有两个不等实根,转化为ax2+bx+b-1=0有两个不等实根,需有判别式大于0恒成立,即Δ=b2-4a(b-1)>0⇒Δ1=(-4a)2-4×4a<0⇒0<a<1, ∴a的取值范围为(0,1). (3)设A(x1,x1),B(x2,x2),则x1+x2=-, 则A,B中点M的坐标为(,),即M(-,-). ∵A,B两点关于直线y=kx+对称, 且A,B在直线y=x上, ∴k=-1,A,B的中点M在直线y=kx+上. ∴-=+⇒b=-=-, 利用基本不等式可得当且仅当a=时,b的最小值为-. |