为什么梯度方向是函数值上升最快的方向?


[TOC]

一元函数的导数

首先我们要明确,导数除了代表函数在某点的切线的斜率外,还表示函数在该点的变化率

$\Large f(x_0)’ = lim_{\Delta x\rightarrow 0}\frac{\Delta y}{\Delta x} = lim_{\Delta x\rightarrow 0}\frac{f(x_0+\Delta x)-f(x_0)}{\Delta x}$

即反应了函数值沿着x轴的方向变化率。

多元函数的偏导数

拥有多个变量时的函数为多元函数,以二元函数为例子

对于二元函数的偏导数:

$\large f_x(x,y)$指的是函数在y方向不变,函数值沿着x轴方向的变化率,即

$\large f_y(x,y)$指的是函数在x方向不变,函数值沿着y轴方向的变化率

二元函数的图像是一个曲面,偏导数就是多元函数沿着某一个坐标轴的变化率,如果我们要考虑任意方向的变化率,是无法求解了,这就引出了方向导数

方向导数

方向导数就是沿着每个方向的函数值的变化率

以二元函数为例子:

单位向量的方向:

对于的坐标$\large(x,y,z)$,设该向量和$\large x,y,z$轴正方向的夹角为$\large\alpha,\beta,\gamma$,则由$\large x,y,z$轴的单位向量,则

所以$\large (cos\alpha,cos\beta, cos\gamma)$是OP的同向的单位向量

所以对二元函数,单位向量为$\large (cos\alpha, cos\beta)$

求参数方程

设两点$\large \vec{P}=(x,y), \vec{P_0}=(x_0,y_0)$

直线$\large l=\vec{P_0P}=(x-x_0,y-y_0)$与向量$\large e_l=(cos\alpha,cos\beta)$平行,且方向相同

所以

所以沿着指向l的方向导数为 $\Large \frac{\partial f}{\partial l}|_{(x_0,y_0)} = lim_{t\rightarrow 0}\LARGE\frac{f(x_0+tcos\alpha, y_0+tcos\beta)-f(x_0,y_0)}{t}$

即是函数在指向l的方向上的方向导数$\Large \frac{\partial f}{\partial l}|_{(x_0,y_0)}$

梯度

如果函数$\large z = f(x,y)$可微分,那么函数沿着该点任意方向的方向导数必然存在

因为可微分,所以

令梯度为$\large grad f = (f_x(x_0,y_0),f_y(x_0,y_0))$

所以梯度与方向的内积为:$\large |f_x(x_0,y_0),f_y(x_0,y_0)|\cdot |cos\alpha,cos\beta|cos\alpha$,其中α是夹角,所以当$\large cos\alpha = 1即\alpha = 0$时取得最大,即两个方向平行时取得。

所以当方向为梯度的方向时,函数值上升最快。反方向是下降最快