Ta có:
S=\frac{x^{2}.(1-y)}{y}+\frac{y^{2}(1-z)}{z}+\frac{z^{2}.(1-x)}{x}-(x^{2}+y^{2}+z^{2}).Vì0<x,y,z<1\rightarrow y>0,1-y>0
Áp dụng bđt Cosi ta có:
\frac{x^{2}.(1-y)}{y}+y(1-y)\geq 2x(1-y)
Tương tự rồi cộng vế vs vế ta đc
S\geq 2x-2xy+2y-2yz+2z-2xz-x-y-z=(x+y+z)-2(xy+yz+zx)=(x+y+z)-2
Mặt khác :x^{2}+y^{2}+z^{2}\geq xy+yz+zx
\rightarrow (x+y+z)^{2}\geq 3.(xy+yz+zx)\rightarrow x+y+z\geq \sqrt{3.(xy+yz+zx)}=\sqrt{3}
-->S\geq \sqrt{3}-2.
Dấu "=" xảy ra \leftrightarrow \begin{cases}x= y=z\\ xy+yz+zx=1 \end{cases}\leftrightarrow x=y=z=\frac{1}{\sqrt{3}}