Nếu ta giả sử $y$ nằm giữa $x$ và $z$suy ra $xy(y-z)(y-x)\le0\Leftrightarrow xy^3+x^2yz\le xy^2z+x^2z^2$
$\Rightarrow xy^3\le xy^2z+x^2z^2$
$xy^3+yz^3+zx^3\le xy^2z+x^2z^2+yz^3+zx^3$
Ta xét 2 TH
$x\ge y\ge z$
$\Rightarrow P\le x^2yz+x^2yz+yz^3+yx^3= y(x^3+z^3+2x^2z)\le y(x+z)^3$
$x\le y\le z$
$\Rightarrow P\le xyz^2+xyz^2+yz^3+x^2yz=y(z^3+2xz^2+zx^2)\le y(x+z)^3$
Vậy suy ra $P\le y(x+z)^3$
Đến đây ta có thể áp dụng BĐT Cauchy theo điểm rơi (0;1;3) hoặc tìm max của hàm 1 biến
có $P\le y(4-y)^3=-y^4+12y^3-48y^2+64y=-(y-1)^2(y^2-10y+27)+27\le27$
hoặc$P\le27y(\frac{x+z}3)^3\le 27(\frac{x+y+z}4)^4=27$
Dấu bằng xảy ra tại $(x;y;z)\in$ {$(0;1;3);(3;0;1);(1;3;0)$}