Giả sử $c= \min \{a,b,c \}$
Khi đó $P=\frac{1}{(a-b)^2}+\frac{1}{(b-c)^2}+\frac{1}{(a-c)^2} \ge \frac{1}{(a-b)^2}+\frac{1}{b^2}+\frac{1}{a^2}$
$\Rightarrow 3P \ge (a^2+b^2+c^2)\left(\frac{1}{(a-b)^2}+\frac{1}{b^2}+\frac{1}{a^2} \right) $
$\ge(a^2+b^2)\left(\frac{1}{(a-b)^2}+\frac{1}{b^2}+\frac{1}{a^2} \right)$
$\Leftrightarrow 3P \ge \left[ (a-b)^2+2ab \right]\left[ \frac{1}{(a-b)^2}+\frac {(a-b)^2+2ab}{a^2b^2}\right]$
$=1+\frac{2ab}{(a-b)^2}+\left[ \frac{(a-b)^2+2ab}{ab} \right]^2=1+\frac 2t+(t+2)^2$ với $t=\frac{(a-b)^2}{ab}(t>0)$
$=5+\frac 2t+t^2+4t$
Tới đây có thể giải = pp hàm số cho gọn
mình ko biết xét hàm nên tạm giải = pp tham số hóa
$3P \ge 5+\frac 2t+t^2+4t=5+\left( \frac{-2+\sqrt 5}{t}+\frac{-2+\sqrt 5}{t}+t^2\right)+\left( \frac{6-2\sqrt 5}{t} +4t\right)$
$\ge 5+3\sqrt[3]{(-2+\sqrt 5)^2}+2\sqrt{4(6-2\sqrt 5) }$
$\quad \Leftrightarrow P \ge\frac{11+5\sqrt 5}{6}$
Vậy $\min P= \uparrow \Leftrightarrow x=\frac{\sqrt{12-3\sqrt 5}+\sqrt{-6+3\sqrt 5}}{2},y=\frac{\sqrt{12-3\sqrt 5}-\sqrt{-6+3\sqrt 5}}{2},z=0$
Và các hoán vị