a) Giả sử $m$ là giá trị thỏa mãn bài toán và $x_0$ là nghiệm
chung của 2 PT. Dễ thấy $x_0\neq 0$, ta có:
\begin{cases} 2x_0^2+mx_0-1=0 \\ mx_0^2-x_0+2=0 \end{cases}
\[ \Leftrightarrow \begin{cases} m=\frac{1-2x_0^2}{x_0} \\
m=\frac{2-x_0}{x_0^2} \end{cases} \]
\[ \Leftrightarrow \begin{cases} m=\frac{1-2x_0^2}{x_0} \\ \frac{1-2x_0^2}{x_0}=\frac{2-x_0}{x_0^2}
\end{cases} \]
\[ \Leftrightarrow \begin{cases} m=\frac{1-2x_0^2}{x_0} \\ x_0^3-x_0+1=0 \end{cases} \]
Giải hệ trên ta được $x=\frac{1}{\sqrt{3}}\left( \sqrt[3]{\frac{5-3\sqrt{3}}{2}}-\sqrt[3]{\frac{5+3\sqrt{3}}{2}} \right) $ và $m=m_0=\frac{1-2x_0^2}{x_0}$.
Đảo lại, với $m=m_0$ thì hai PT đã cho có nghiệm chung
$x_0$.
b) Phương trình $x^2-2x+m^2-3m+1=0$ tương đương với:
\[ (x-1)^2=3m-m^2. (1) \]
Đặt $x-1=t$ thì $(1)$ trở thành $t^2=3m-m^2. (2)$
PT ban đầu có nghiệm $x\in [1,2]$ khi và chỉ khi PT $(2)$ có nghiệm $t\in [0,1]$. Khi đó $0\leq 3m-m^2\leq 1$ hay $0\leq m\leq \frac{3-\sqrt{5}}{2}\vee \frac{3+\sqrt{5}}{2}\leq m\leq 3.$