(1)证明:设数列{an}的公比为q, 因为S4,S10,S7成等差数列,所以q≠1,且2S10=S4+S7. 所以=+, 因为1-q≠0,所以1+q3=2q6. 所以a1+a1q3=2a1q6,即a1+a4=2a7. 所以a1,a7,a4也成等差数列. (2)因为S3=,S6=, 所以=,①=,② 由②÷①,得1+q3=,所以q=-,代入①,得a1=2. 所以an=2•(-)n-1, 又因为bn=λan-n2,所以bn=2λ(-)n-1-n2, 由题意可知对任意n∈N*,数列{bn}单调递减, 所以bn+1<bn,即2λ(-)n-(n+1)2<2λ(-)n-1-n2, 即6λ(-)n<2n+1对任意n∈N*恒成立, 当n是奇数时,λ>-,当n=1时,-取得最大值-1, 所以λ>-1; 当n是偶数时,λ<,当n=2时,取得最小值, 所以λ<. 综上可知,-1<λ<,即实数λ的取值范围是(-1,). |