Đặt VT=f(k)
Ta có f(k)=∑a2(a−b)2+k∑ab(a−b)2 với k∈[0;1]
Đây là hàm bậc nhất theo k nên ta luôn có f(k)≥min{f(0),f(1)}
∙f(0)=a2(a−b)2+b2(b−c)2+c2(c−a)2
Với c=0 thì f(0)>1
Với c≠0,Đặt {a=xcb=yc (xy≠0,x≠y,x≠1,y≠1)
Khi đó f(0)=x2(x−y)2+y2(1−y)2+1(x−1)2
=1+(−yx2+3xy−x−y2(x−y)(1−y)(x−1))2≥1
Vậy f(0)≥1 đẳng thức xảy ra chẳng hạn a=1,b=4,c=−2
∙f(1)=∑a2+ab(a−b)2
=x2+xy(x−y)2+y2+y(y−1)2+x+1(x−1)2
=78+18(3x2y+x2+xy2−12xy+3x+3y2+y(x−y)(y−1)(x−1))2≥78
Vậy f(1)≥78
Từ đó suy ra f(k)≥78 (dpcm)
Đẳng thức xảy ra chẳng hạn a=1,b=−3,c=0 và k=1