Dự đoán $P\leq \frac{1}{4}$ (1) và dấu bằng xảy ra khi $x=1$ và $y=0$.Thực hiện phép biến đổi tương đương (1) thì thu được
$(y-1)^2x^2+2(3y^2+2y-1)x+y^2+6y+1\geq 0$ (2).
Trường hợp $y\geq \frac{1}{3}$. Khi đó có $3y^2+2y-1\geq 0$. Suy ra (2) đúng và dấu bằng không xảy ra.
Trường hợp $0\leq y\leq \frac{1}{3}$. Khi đó vế trái của (2) là tam thức bậc hai biến $x$ với
$\Delta ^{'} = (3y^2+2y-1)^2-(y-1)^2(y^2+6y+1)$
$= 8y(y^3+y^2+y-1)$
$\leq 8y(\frac{1}{3}+\frac{1}{3}+\frac{1}{3}-1)=0$.
Suy ra (2) đúng. Đồng thời dấu bằng của (2) xảy ra khi $y = 0$ và $x = 1$.