P=x2+x+y2+yxy+x+y+1=x2+y2+1xy+2=(x+y)2−2xy+1xy+2=2−2xyxy+2Ta có √xy≤x+y2=12 nên xy≤14
Đặt xy=t thì 0≤t≤14,P=2−2t2+t=−2+6t+2
+P Nhỏ nhất⇔6t+2 nhỏ nhất ⇔t lớn nhất ⇔t=14⇔x=y=12 . Khi đó min
+ P lớn nhất \Leftrightarrow \frac{6}{t+2} lớn nhất \Leftrightarrow t nhỏ nhất \Leftrightarrow t=0 \Leftrightarrow \left\{ \begin{array}{l} x=0, y=1\\ x=1,y=0 \end{array} \right.
Khi đó \max P=1