解答
\begin{aligned}
\mathcal{F}\left\{f'(x)\right\}(u)&=\frac{1}{\sqrt{2\pi}}\int_{-\infty}^\infty f'(x)\exp(-iux)dx\\
&=\frac{1}{\sqrt{2\pi}}\left[f(x)\exp(-iux)\right]_{-\infty}^\infty\\
&\quad-\frac{1}{\sqrt{2\pi}}\int_{-\infty}^\infty\left[-iuf(x)\exp(-iux)\right]dx\\
&=0+iu\frac{1}{\sqrt{2\pi}}\int_{-\infty}^\infty f(x)\exp(-iux)dx
\end{aligned}
\therefore\mathcal{F}\left\{f'(x)\right\}(u)=iu\hat{f}(u)\tag{答}
解説
微分(導関数)と他の関数の積を積分するので部分積分を行いました.
3行目では,|x|\to\inftyでf(x)\to 0となることを用いています.