深度学习的数学基础—神经网络中经常用到的∑符号

∑是一个需要下功夫来熟悉的符号。如果不理解∑,在阅读神经网络相关的文献时就比较麻烦。这是因为将加权输入用∑符号来表示会简洁得多。下面我们就来复习一下这个∑符号。

∑符号的含义

∑符号可以简洁地表示数列的总和。除了表示总和以外,并没有别的含义,然而这样过于简洁的表示经常使神经网络的初学者感到苦恼。

注:∑为希腊字母,读作Sigma,对应拉丁字母S,即Sum(总和)的首字母。

对于数列{an}, ∑符号的定义式如下所示。
image.png

以上用∑符号表示的和之中,字母k并不具有实质的含义。实际上,在上式的右边没有出现字母k, k在这里仅用于表明关于它求和。因此,这个字母并非必须是k,在数学上通常用i、j、k、l、m、n。

##例1
image.png

例2

image.png

例3

image.png

●∑符号的性质

∑符号具有线性性质。这是与微积分共通的性质,可以在式子变形中使用。
image.png

注:用语言来表述的话,就是“和的∑为∑的和”“常数倍的∑为∑的常数倍”。这与导数公式“和的导数为导数的和”“常数倍的导数为导数的常数倍”是一致的(之后的博文会详细讲解)。

证明根据∑符号的定义,有
image.png

下面我们通过例子来验证式(Ⅱ)。

例4

image.png

问题证明下式成立。
image.png

image.png