Ta thấy giả thiết đã cho tương đương vớix2+y2+xy+2−3(x+y)=0⇔(x+y2−32)2+(3√2y−3√2)2=1
Đến đây dễ dàng nhận ra bóng dáng của lượng giác. Ta đặt x+y2−32=sint,3√2y−3√2=cost⇒x=sint+1−cost3√,y=1+2cost3√
Thay vào P ta sẽ cóP=3sint+cost3√+6sint+cost3√+8
⇔(P−3)sint+(P3√−13√)cost=6−8P
Để phương trình này có nghiệm thì(P−3)2+(P3√−13√)2≥(6−8P)2
⇔2047≤P≤1
Ta có P=1⇔3sint+cost3√+6=sint+cost3√+8⇔sint=1⇒cost=0⇒x=2,y=1P=2047⇔47(3sint+cost3√+6)=20(sint+cost3√+8)⇔121sint+273√cost+122=0
Phương trình này chắc chắn có nghiệm do1212+(273√)2=1222
Vậy GTLN của P là 1. GTNN của P là 2047.