Gọi $I(x,y)$ là tâm đường tròn ngoại tiếp tam giác, ta có:
$IA=IB=IC  \Leftrightarrow  \left\{ \begin{array}{l} IA^2=IB^2\\ IA^2=IC^2 \end{array} \right.  \Leftrightarrow  \left\{ \begin{array}{l} (x-4)^2+(y-6)^2=(x-5)^2+(y-1)^2\\ (x-4)^2+(y-6)^2=(x-1)^2+(y+3)^2 \end{array} \right. $
$ \Leftrightarrow  \left\{ \begin{array}{l} 2x-10y=-26\\ -6x-18y=-42 \end{array} \right.  \Leftrightarrow  \left\{ \begin{array}{l} x=-\frac{1}{2} \\ y =\frac{5}{2} \end{array} \right. $
Vậy tâm $I \left (-\frac{1}{2};\frac{5}{2} \right) $ và bán kính $IA=\sqrt{\left (-\frac{1}{2}-4\right)^2+\left (\frac{5}{2}-6\right)^2}=\frac{\sqrt{130}}{2}$

Ta có : $DC//AB\Rightarrow  DC//(SAB)$
$\Rightarrow  mp(MDC)\cap mp(SAB)=MN//AB$.Lại có $MN\bot (SAD)$.Suy ra tứ giác $MNCD$ là hình thang vuông.
Diện tích $MNCD$ là :
$S_{MNCD}=\frac{1}{2} (MN+CD)MD$
Trong đó : $CD=a$
$MD=\sqrt{MA^2+AD^2} =\sqrt{x^2+a^2} $
Trong $\Delta SAB$ ta có $MN//AB$ suy ra
$\frac{MN}{AB}=\frac{SM}{SA}\Rightarrow  \frac{MN}{a}   =\frac{a-x}{a} \Rightarrow  MN=a-x$
Do đó $S_{MNCD}=\frac{1}{2}\sqrt{x^2+a^2}.(a+a-x)=\frac{1}{2}   \sqrt{x^2+a^2}(2a-x) $

Chọn hệ trục tọa độ $Axyz$ sao cho: $A(0;0;0), B(a;0;0), C(a;a;0), D(0;a;0), S(0;0;h)$
$M(a;a-x;0), N(a-y;a;0), 0<x,y<a$
a) Ta có: $\left\{ \begin{array}{l} AS\bot AM\\ AS\bot AN \end{array} \right. (do  AS\bot (ABCD))$
$\Rightarrow  [M,AS,N]=(\overrightarrow{AM},\overrightarrow{AN}  )$
$\overrightarrow{AM}=(a;a-x;0), \overrightarrow{AN}=(a-y;a;0)  $
$cos 45^0=\frac{\overrightarrow{AM},\overrightarrow{AN}  }{|\overrightarrow{AM} |.|\overrightarrow{AN} |} =\frac{a(a-y)+(a-x)a}{\sqrt{(2a^2-2ax+x^2)(2a^2-2ay+y^2)} } $
$\Leftrightarrow  2a^2(4a^2+x^2+y^2-4ax-4ay+2xy)=(2a^2-2ax+X^2)(2a^2-2ay+y^2)$
Vậy hệ thức là $4a^2-4a^3(x+y)+2axy(x+y)-x^2y^2=0$
b) Tìm $x,y$ để $(SAM)\bot (SMN)$
Ta có: $\left\{ \begin{array}{l} (SAM)\bot (AMN)\\ (SAM)\bot (SMN) \end{array} \right. \Rightarrow  MN\bot (SAM)$
$\Rightarrow  $ để $(SAM)\bot (SMN)$ thì $AM\bot MN$
$\Rightarrow  \overrightarrow{AM}.\overrightarrow{MN}=0\Rightarrow  (a;a-x;0)(-y;x;0)=0\Leftrightarrow  x^2-ax+ay=0  $
Vậy hệ thức là $x^2-ax+ay=0$

$a.$ Ta đi chứng minh bằng phản chứng.Thât vậy giả sử $OA,MN$  không chéo nhau tức chúng nằm trong một mặt phẳng.Mặt phẳng này chứa ba điểm $A,M,N$ không thẳng hàng, đó chính là mặt phẳng $\alpha$ suy ra :
$O\in \alpha$ trái với giả thiết
Vậy $OA,MN$ chéo nhau
$b.$ Gọi $C$ là trung điểm $AB$ nhận xét rằng :
$ABNM$ là hình thang
$\Rightarrow  I\in Cz$ là đường trung bình của $ABNM$- cố định
Vậy $OI$ nằm trong mặt phẳng cố định $(O;Cz)$
$c.$ Xét hình thang $ABNM$ ta có :
$CI=\frac{1}{2} (AM+BN)$- không đổi $\Rightarrow  I cố đinh$
Vậy mặt phẳng $(OMN)$ chứa đường thẳng $OI$ cố định

Điều kiện của nghiệm :$x \ge a/2$. Ta biến đổi bất phương trình đã cho như sau
$2\sqrt {2{\rm{x  -  a}}}  \ge 2{\rm{x  -  a  +  a }} \Leftrightarrow {\rm{ 1  -  a }} \ge {\left( {\sqrt {{\rm{2x  -  a}}}  - 1} \right)^2}$        (1)
a) $1 - a < 0 \Leftrightarrow a > 1$ : (1) vô nghiệm
b) $1 - a = 0 \Leftrightarrow a = 1$ : (1) có nghiệm $x = 1$
c) $1 - a > 0 \Leftrightarrow a < 1:(1) \Leftrightarrow 0 \ge {\left( {\sqrt {{\rm{2x  - a}}}  - 1} \right)^2} - \left( {\sqrt {{{\left( {1 - a} \right)}^2}} } \right)$
$ \Leftrightarrow  - \sqrt {1 - a}  \le \sqrt {2{\rm{x  -  a  -  1}}}  \le \sqrt {1 - a} $
$ \Leftrightarrow 1 - \sqrt {1 - a}  \le \sqrt {2{\rm{x  -  a}}}  \le 1 + \sqrt {1 - a} $                 (2)
d) $0 < a < 1 \Rightarrow 1 - \sqrt {1 - a}  \ge a/2$ nên (2) $ \Leftrightarrow 1 - \sqrt {1 - a}  \le x \le 1 + \sqrt {1 - a} $
e) $a \le 0$ : (2) $ \Leftrightarrow a/2 \le x \le 1 + \sqrt {1 - a} $

Đặt $u = {e^{3x\,\,\,\,}}\,\,\,\,\, \Rightarrow \,\,\,du\, = \,\,3{e^{3x\,}}dx$
            $dv = \sin \,4x\,dx\,\,\,\, \Rightarrow \,\,\,v = \,\, - \frac{1}{4}co\,sx\,$
$\begin{array}{l}
I = \,\,\,\, - \left. {\frac{1}{4}{e^{3x\,}}cosx} \right]_0^{\frac{\pi }{4}} + \frac{3}{4}\int\limits_0^{\frac{\pi }{4}} {{e^{3x\,}}cos4x} \\
\,\,\, = \frac{1}{4}\left( {1 + {e^{\frac{3}{4}}}} \right) + \frac{3}{4}K
\end{array}$
Tính $K$ :  Đặt   $u = {e^{3x\,\,\,\,}}\,\,\,\,\, \Rightarrow \,\,\,du\, = \,\,3{e^{3x\,}}dx$
    $dv = cos4xdx\,\,\,\, \Rightarrow \,\,\,v = \,\,\frac{1}{4}\sin \,4x\,$
       $\begin{array}{l}
K = \left. {\frac{1}{4}{e^{3x\,}}\sin \,4x} \right]_0^{\frac{\pi }{4}} - \frac{3}{4}I =  - \frac{3}{4}I\\
I = \frac{1}{4}\left( {1 + {e^{\frac{3}{4}}}} \right) - \frac{9}{{16}}I\,\,\, \Rightarrow \,\,\frac{{25}}{{16}}I = \frac{1}{4}\left( {1 + {e^{\frac{3}{4}}}} \right)
\end{array}$
   Vậy $I = \frac{4}{{25}}\left( {1 + {e^{\frac{3}{4}}}} \right)$

\(\sin 4x - c{\rm{os}}4x = 1 + 4\sqrt 2 \sin \left( {x - \frac{\pi }{4}} \right)\)
\( \Leftrightarrow 0 = c{\rm{os}}4x + \left( {1 - \sin 4x} \right) + 4\left( {{\mathop{\rm s}\nolimits} {\rm{inx}} - \cos x} \right)\)
\( \Leftrightarrow 0 = \left( {c{\rm{o}}{{\rm{s}}^2}2x - {{\sin }^2}2x} \right) + {\left( {c{\rm{os}}2x - \sin 2x} \right)^2} - 4\left( {\cos x - {\mathop{\rm s}\nolimits} {\rm{inx}}} \right)\)
\( \Leftrightarrow 0 = 2\cos 2x\left( {c{\rm{os}}2x - \sin 2x} \right) - 4\left( {\cos x - {\mathop{\rm s}\nolimits} {\rm{inx}}} \right)\)
\( \Leftrightarrow 0 = 2\left( {\cos x - {\mathop{\rm s}\nolimits} {\rm{inx}}} \right)\left( {\cos x + {\mathop{\rm s}\nolimits} {\rm{inx}}} \right)\left( {\cos 2x - {\mathop{\rm s}\nolimits} {\rm{in2x}}} \right) - 4\left( {\cos x - {\mathop{\rm s}\nolimits} {\rm{inx}}} \right)\)
   
\( \Leftrightarrow 2\sqrt 2 c{\rm{os}}\left( {x + \frac{\pi }{4}} \right)\left[ {c{\rm{os}}\left( {x + \frac{\pi }{2}} \right) + c{\rm{os}}3x - 2} \right] = 0\)
$a)$ \(c{\rm{os}}\left( {x + \frac{\pi }{4}} \right) = 0 \Leftrightarrow x = \frac{\pi }{4} + k\pi \)  (TM)
$b)$ \(\left\{ \begin{array}{l}
c{\rm{os}}\left( {x + \frac{\pi }{2}} \right) = 1\\
c{\rm{os}}3x = 1
\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}
x =  - \frac{\pi }{2} + 2k\pi \\
c{\rm{os}}\left( { - \frac{{3\pi }}{2} + 6k\pi } \right) = 1
\end{array} \right.\) (VN)

Đáp số: \(x = \frac{\pi }{4} + k\pi \)