$\frac{\sin 3x-cosx}{\cos 2x}=\frac{\sqrt{2}(tan^2x+2tanx-1) }{1-tanx^{2}}$ (1)
Điều kiện: $\begin{cases} \cos x \ne 0 \\ \cos2x \ne 0 \\ tanx \ne \pm 1 \end{cases}$ $ \Leftrightarrow $ $\begin{cases} x \ne \frac{\pi }{2} + k\pi \\ x \ne \frac{\pi }{4} + k\frac{\pi }{2} \end{cases}$ ($k \in Z$)
Nhân tử và mẫu của VP cho ${co{s^2}x}$, ta được:
\[(1) \Leftrightarrow \frac{{sin3x - cosx}}{{cos2x}} = \frac{{\sqrt 2 (si{n^2}x + 2sinxcosx - co{s^2}x)}}{{co{s^2}x - si{n^2}x}}\]
\[ \Leftrightarrow \frac{{sin3x - cosx}}{{cos2x}} = \frac{{\sqrt 2 (2sin2x - cos2x)}}{{cos2x}}\]
\[ \Leftrightarrow sin3x - cosx = \sqrt 2 (2sin2x - cos2x)\]
\[ \Leftrightarrow cos(\frac{\pi }{2} - 3x) - cosx = 2sin(2x - \frac{\pi }{4})\]
\[ \Leftrightarrow - 2sin(\frac{\pi }{4} - x)sin(\frac{\pi }{4} - 2x) = - 2sin(\frac{\pi }{4} - 2x)\]
\[ \Leftrightarrow sin(\frac{\pi }{4} - 2x) = 0 \vee sin(\frac{\pi }{4} - x) = 1\]
$*sin(\frac{\pi }{4} - 2x) = 0 \Leftrightarrow 2x - \frac{\pi }{4} = k\pi \Leftrightarrow x = \frac{\pi }{8} + \frac{{k\pi }}{2}(k \in Z)$
$*sin(\frac{\pi }{4} - x) = 1 \Leftrightarrow \frac{\pi }{4} - x = \frac{\pi }{2} + k2\pi \Leftrightarrow x = - \frac{\pi }{4} - k2\pi (k \in Z)$
So với điều kiện, ta suy ra nghiệm của phương trình là: $x = \frac{\pi }{8} + \frac{{k\pi }}{2}(k \in Z)$