Ý tưởng: xài $p,r,R$"""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""
Xài B.C.S, ta có:
$(x+y+z)^2\leq (\sum \frac{x}{\sqrt{x^2+kyz}})(\sum x\sqrt{x^2+kyz})$
và:
$(x\sqrt{x^2+kyz})^2\leq (x+y+z)[\sum (x^2+kxyz)]$
$\Rightarrow \frac{x}{\sqrt{x^2+kyz}}\geq \frac{(x+y+z)^2}{\sqrt{x+y+z}.\sqrt{x^3+y^3+y^3+3kxyz}}$ $(1)$
Mặt khác:
$x^3+y^3+z^2+3kxyz=(x+y+z)(x^2+y^2+z^2-xy-yz-zx)+3(k+1)xyz=2p[p^2+6Rr(k-1)-3r^2]$ $(2)$
Từ $(1)$ và $(2)$ suy ra cần c/m:
$\frac{2p}{\sqrt{p^2+6Rr(k-1)-3r^2}}\geq \frac{3}{\sqrt{k+1}}$ $(2\bigstar )$
$\Leftrightarrow 4(k+1)p^2\geq 9[p^2+6Rr(k-1)-3r^2]$
$\Leftrightarrow (4k-5)p^2-54Rr(k-1)+27r^2\geq 0$ $(3\bigstar )$
Đặt $f(k)=VT$
$\Rightarrow f'(k)=4p^2-54Rr\geq 0$ do $p^2\geq 16Rr-5r^2$
$\Rightarrow f(k)$ đồng biến
$\rightarrow f(k)\geq f(2,6)=5,4(p^2-16Rr+5r^2)\geq 0$
Vậy $(3\bigstar )$ lđ $\Rightarrow (\bigstar )$ đc c/m.
Đẳng thức khi $\left\{ \begin{array}{l} x=y=z\\ k=2,6 \end{array} \right../$