$a.$ Xác định điểm $C$ trên $Oz$ để thể tích $OABC=8$
Theo giả thiết ta có $OA=4,OB=8,$ góc $AOB=60^0$
$\Rightarrow \Delta AOB$ vuông tại $A\Rightarrow BA\bot Ox\Rightarrow x_0=x_A=4$. Ta được $B(4,y_0,0)$
Vì $OB=8\Rightarrow 4^2+y_0^2=64\Rightarrow y_0=4\sqrt{3}\Rightarrow AB=4\sqrt{3} $
$V_{OABC}=\frac{1}{3} OC.S_{\Delta AOB}=\frac{1}{3} OC.8\sqrt{3} =8\Leftrightarrow OC=\sqrt{3} $
Do đó $S_{\Delta ABO}=\frac{1}{2} OA.OB=\frac{1}{2} .4.4\sqrt{3} =8\sqrt{3} $
Ta được $C(0,0,\sqrt{3} )$ hoặc $C(0,0,-\sqrt{3} )$
b.Ta có trọng tâm của $\Delta OAB$ là $G(\frac{8}{3},\frac{4\sqrt{3} }{3} ,0 )$
Giả sử $C(0,0,\sqrt{3} );\overrightarrow {AC}=(-4,0,\sqrt{3} ) $
$\Rightarrow $ Phương trình đường thẳng $AC$ là $\begin{cases}x=4-4t \\ y=0 \\z=\sqrt{3}t \end{cases} $
Ta được $M(4-4t,0,\sqrt{3}t )\Rightarrow \overrightarrow {OM} (4-4t;0;\sqrt{3}t )$
$\overrightarrow {GM} =(\frac{4}{3} -4t;-\frac{4\sqrt{3} }{3} ;\sqrt{3}t )$
Thế thì $OM\bot GM\Leftrightarrow \overrightarrow {OM} .\overrightarrow {GM} =0$
$\Leftrightarrow (4-4t).(\frac{4}{3}-4t )+3t^2=0\Leftrightarrow 57t^2-64t+16=0$
$\Leftrightarrow t=\frac{32\pm
4\sqrt{7}}{57}\Leftrightarrow M(4-\frac{16}{57}(8\pm\sqrt{7}), 0,
\frac{4\sqrt{3}}{57}(8\pm\sqrt{7}))$
Trường hợp còn lại ứng với $C(0,0,-\sqrt{3} )$ cũng tương tự $\Leftrightarrow M(4-\frac{16}{57}(8\pm\sqrt{7}), 0,
\frac{-4\sqrt{3}}{57}(8\pm\sqrt{7})$