a.Xét $t\geq a$ và $g(m)=\int\limits_{a}^{t}[mx-f(x)]^{2}dx,m \in R$
$\Rightarrow g(m)=(\int\limits_{a}^{t} x^{2}dx)m^{2}-2(\int\limits_{a}^{t} xf(x)dx)m+\int\limits_{a}^{t} [f(x)]^{2}dx \geq 0,\forall m \in R$
$\Rightarrow \Delta'=(\int\limits_{a}^{t} xf(x)dx)^{2}-(\int\limits_{a}^{t} x^{2}dx)(\int\limits_{a}^{t} [f(x)]^{2}dx ) \leq 0$
$\Rightarrow (\int\limits_{a}^{t} xf(x)dx)^{2} \leq (\int\limits_{a}^{t} x^{2}dx)(\int\limits_{a}^{t} [f(x)]^{2}dx )\leq (\int\limits_{a}^{t} x^{2}dx)(\int\limits_{a}^{t} x^{2}dx)$
(Do giả thiết: $\int\limits_{a}^{t} [f(x)]^{2}dx\leq \int\limits_{a}^{t} x^{2}dx$)
$\Rightarrow \int\limits_{a}^{t} xf(x)dx\leq \int\limits_{a}^{t} x^{2}dx$
$\Rightarrow F(t)=\int\limits_{a}^{t}x[x-f(x)]dx \geq 0$
$\Rightarrow F'(t)=t[t-f(t)]$
Xét: $\int\limits_{a}^{b}[x-f(x)]dx=\int\limits_{a}^{b}\frac{1}{x}[x(x-f(x))]dx$
$=\int\limits_{a}^{b}\frac{1}{x}F'(x)dx,\forall b \geq a$
Đặt: $\begin{cases}u=\frac{1}{x} \\ dv=F'(x)dx \end{cases}$
$\Rightarrow \begin{cases}du=-\frac{dx}{x^{2}} \\ v=F(x) \end{cases}$
$\Rightarrow \int\limits_{a}^{b}[x-f(x)]dx=[\frac{1}{x}F(x)]_{a}^{b}+\int\limits_{a}^{b}\frac{F(x)}{x^{2}}dx$
$=\frac{1}{b}F(b)-\frac{1}{a}F(a)+\int\limits_{a}^{b}\frac{F(x)}{x^{2}}dx$
$=\frac{1}{b}F(b)+\int\limits_{a}^{b}\frac{F(x)}{x^{2}}dx\geq 0$
(vì $F(a)=0$)
(vì $F(b),F(x) \geq 0$)
$\Rightarrow \int\limits_{a}^{b}[x-f(x)]dx \geq 0$
$\Rightarrow \int\limits_{a}^{b}f(x)dx \leq \int\limits_{a}^{b} xdx$
b.Ta có: $\int\limits_{a}^{b}[t\sqrt{f(x)}-\frac{1}{\sqrt{f(x)}}]^{2}dx \geq 0,\forall t\in R$
$\Rightarrow\int\limits_{a}^{b}[t^{2}f(x)-2t+\frac{1}{f(x)}]dx \geq 0,\forall t\in R$
$\Rightarrow (\int\limits_{a}^{b}f(x)dx)t^{2}-2(b-a)t+\int\limits_{a}^{b}\frac{dx}{f(x)}\geq 0,\forall t\in R$
$\Rightarrow \Delta'=(b-a)^{2}-(\int\limits_{a}^{b}f(x)dx)(\int\limits_{a}^{b}\frac{dx}{f(x)})\leq 0$
$\Rightarrow (\int\limits_{a}^{b}f(x)dx)(\int\limits_{a}^{b}\frac{dx}{f(x)}) \geq (b-a)^{2}$
$\Rightarrow$ (ĐPCM)