ĐK: $ xy\neq 0$ và $xy\neq -1$
Đặt $a = 1+\frac{1}{xy}$ ta có hpt:$\begin{cases}(x^3+y^3)a^3=27 \\ (x^2+y^2)a^2= 9\end{cases}$
$\Leftrightarrow \begin{cases}x^3+y^3= (\frac{3}{a})^3\\ x^2+y^2=(\frac{3}{a})^2 \end{cases}$
$\Leftrightarrow \begin{cases}(x^3+y^3)^2=(\frac{3}{a})^6 \\ (x^2+y^2)^3=(\frac{3}{a})^6 \end{cases}$
$\Rightarrow(x^2+y^2)^3=(x^3+y^3)^2$
$\Leftrightarrow 3x^4y^2+3x^2y^4=2x^3y^3$ (3)
Vì $xy\neq 0$ nên chia cả 2 vế của pt(3) cho $x^2y^2$ ta dc:
$3x^2+3y^2=2xy$
$\Leftrightarrow x^2+y^2=\frac{2xy}{3} $ (4)
$\Rightarrow xy>0$
Mà ta có bđt $x^2+y^2\geq 2xy$
$xy\geq 0 thì 2xy \geq \frac{2xy}{3}$
suy ra:$x^2+y^2\geq 2xy\geq \frac{2xy}{3}$
dấu = xảy ra khi $2xy = \frac{2xy}{3}$
khi đó xy=0(không thỏa ĐK)
Vậy hpt vô nghiệm