Ta có:
(a+b+c)2=2(a2+b2+c2)⇔a2+b2+c2=2(ab+bc+ca)⇔(a+b+c)2=4(ab+bc+ca)
⇒P=4(a3+b3+c3)(a+b+c)3=4(Σ(aa+b+c)3)
Đặt x=aa+b+c;y=ba+b+c;z=ca+b+c
⇒x+y+z=1&xy+yz+zx=ab+bc+ca(a+b+c)2=14
⇒{y+z=1−xyz+x(y+z)=14⇔{y+z=1−xyz=x2−x+14
Mà:(y+z)2≥4yz⇒0≤x≤23
Khi đó: P=4(x3+y3+z3)=4[x3+(y+z)3−3yz(y+z)]=12x3−12x2+3x+1=f(x)
Xét h/sf(x) liên tục trên [0;23]
f′(x)=36x2−24x+3;f′(x)=0⇔x=16orx=12
⇒1≤P≤119
Min P=1 đạt tại a=0;b=c
MaxP=119đạt tại b=c=a2orb=c=5a2