Đặt $x=a+(b-a)\sin^2t$, với $0\leq t\leq \frac{\pi}{2} $
$dx=2(b-a)\sin t\cos tdt=(b-a)\sin2tdt$
$\frac{dx}{\sqrt{[(x-a)(b-x)]^3} }= \frac{(b-a)\sin2tdt}{\sqrt{[(b-a)\sin^2t.(b-a)\cos^2t]^3} }$
$=\frac{(b-a)\sin2tdt}{(b-a)^3\sin^3t} =\frac{1}{(b-a)^2}.\frac{dt}{\sin^2t} $
Khi đó:
$\int\limits f(x)dx=\frac{1}{(b-a)^2} \int\limits \frac{dt}{\sin^22t} =-\frac{\cot 2t}{2(b-a)^2}+C=-\frac{a+b-2x}{2 \sqrt{(x-a)(b-a)} }+C $