Phương trình tương đương với:
$(2\sin x-1)(\cos x+2\sin x+m)=4\sin^2x-1$
$\Leftrightarrow (2\sin x-1)(\cos x+2\sin x+m-2\sin x-1)=0$
$\Leftrightarrow \left[\begin{array}{l}2\sin x-1=0\\\cos x+m-1=0\end{array}\right.\Leftrightarrow \left[\begin{array}{l}\sin x=\frac{1}{2}\\\cos x=1-m\end{array}\right.$
Phương trình $\sin x=\frac{1}{2}$ có 2 nghiệm trong khoảng $(0,\pi)$ là: $x_1=\frac{\pi}{6},x_2=\frac{5\pi}{6}$
Phương trình $\cos x=1-m$ nếu có nghiệm thì có nhiều nhất 1 nghiệm trong khoảng $(0,\pi)$.
Vậy phương trình đã cho có nhiều hơn 2 nghiệm trong khoảng $(0;\pi)$ khi và chỉ khi phương trình $\cos x=1-m$ có nghiệm thuộc $(0,\pi)$ và khác $\frac{\pi}{6},\frac{5\pi}{6}$
$\Leftrightarrow \begin{cases}-1<m-1<1\\1-m\ne\frac{\sqrt3}{2}\\1-m\ne\frac{-\sqrt3}{2} \end{cases} \Leftrightarrow m\in(0;2)\backslash\{1\pm\frac{\sqrt3}{2}\}$