Điều kiện đã cho tương đương với $xy\geq \frac{2-(x^2+y^2)}{6}$. Dễ dàng thấy rằng $\frac{x^2+y^2}{2}\geq xy$; cho nên $\frac{x^2+y^2}{2}\geq\frac{2-(x^2+y^2)}{6}$; suy ra $x^2+y^2\geq \frac{1}{2}$. Biến đổi $P$ cho hợp lý thì được
$P=-3x^2y^2+3(x^2+y^2)^2-2(x^2+y^2)+1$.
Vì $x^2y^2\leq \frac{(x^2+y^2)^2}{4}$ nên suy ra
$P\geq-\frac{3(x^2+y^2)^2}{4}+3(x^2+y^2)^2-2(x^2+y^2)+1$
$\geq \frac{9(x^2+y^2)^2}{4}-2(x^2+y^2)+1$
$\geq \frac{[2(x^2+y^2)-1][18(x^2+y^2)-7]}{16}+\frac{9}{16}$
$\geq \frac{9}{16}$.
Suy ra $P\geq \frac{9}{16}$. Dấu bằng xảy ra khi các điều kiện $xy=\frac{2-(x^2+y^2)}{6}$, $x^2+y^2=\frac{1}{2}$, $x^2y^2=\frac{(x^2+y^2)^2}{4}$ cùng xảy ra; suy ra $(x;y)$ có thể là một trong các cặp $(\frac{1}{2};\frac{1}{2})$, $(-\frac{1}{2};-\frac{1}{2})$.
Vậy $P$ đạt giá trị nhỏ nhất bằng $\frac{9}{16}$.