Nếu đề bài là tìm giá trị lớn nhất thì như sau:
Có
5(a2+b2+c2)=9(ab+2bc+ca)⇒0=5a2−9a(b+c)+5(b2+c2)−18bc⇒0≥5a2−9a(b+c)−2(b+c)2⇒(a−2(b+c))(5a+(b+c))≤0
⇒a≤2(b+c)
Có P=ab2+c2−1(a+b+c)3≤2(b+c)(b+c)22−127(b+c)3=4b+c−127(b+c)3
Đặt f(x)=4x−x327 với x=1b+c
Có f′(x)=4−x29;f′(x)=0⇔x=6
Lập bảng biến thiên f(x) ta tìm đc maxf(x)=f(6)=16
Có P≤f(x)≤maxf(x)=16
Dấu "=" có khi b=c=112;a=13