Dễ thấy giá trị nhỏ nhất của $P$ là $0$ khi $x=y=0$Bây giờ ta sẽ tìm Max $P$
Với trường hợp $x,y$ không cùng bằng $0$ ta sẽ chứng minh $x^2+y^2=1$
Thật vậy
Nếu $x=0$ thì $y=y^2\Rightarrow y=1$
Nếu $y=0$ thì $x=x^2\Rightarrow x=1$
Nếu $x, y$ cùng dương
$0=x\sqrt{1-y^2}-x^2+y\sqrt{1-x^2}-y^2$
$=x(\sqrt{1-y^2}-x)+y(\sqrt{1-x^2}-y)$
Nếu $x^2+y^2$ lớn hơn 1 thì $\sqrt{1-y^2}-x , \sqrt{1-x^2}-y$ đều dương , vô lí
Nếu $x^2+y^2$ nhở hơn 1 cũng suy ra vô lí
Vậy $x^2+y^2=1$
Bạn có thể áp dụng phương pháp điểm rơi cho Cauchy hoặc Bunhia để tìm Max $P$ , ở đây mình sẽ dùng Bunhia
$97=(x^2+y^2)(81+16)\geq (9x+4y)^2\Rightarrow \sqrt{97}\geq 9x+4y$
$97\sqrt{97}\geq (9x+4y)(81+16)\geq (27\sqrt{x}+8\sqrt{y})^2$
Vậy $P\leq 97^{\frac{3}{4}}$ , dấu bằng có $\Leftrightarrow\left\{ \begin{array}{l} x^2+y^2=1\\ \frac{x}{9}=\frac{y}{4} \end{array} \right. $
$\Leftrightarrow x=\frac{9}{\sqrt{97}}, y=\frac{4}{\sqrt{97}}$