Phương trình tương đương với:
(2sinx−1)(cosx+2sinx+m)=4sin2x−1
⇔(2sinx−1)(cosx+2sinx+m−2sinx−1)=0
⇔[2sinx−1=0cosx+m−1=0⇔[sinx=12cosx=1−m
Phương trình sinx=12 có 2 nghiệm trong khoảng (0,π) là: x1=π6,x2=5π6
Phương trình cosx=1−m nếu có nghiệm thì có nhiều nhất 1 nghiệm trong khoảng (0,π).
Vậy phương trình đã cho có nhiều hơn 2 nghiệm trong khoảng (0;π) khi và chỉ khi phương trình cosx=1−m có nghiệm thuộc (0,π) và khác π6,5π6
⇔{−1<m−1<11−m≠√321−m≠−√32⇔m∈(0;2)∖{1±√32}