机器学习——激活函数

1:什么是激活函数 以一个简单的神经元为例。在没有激活函数时,神经元输出z等于$z=x_1w_1+x_2w_2+x_3w_3+b$ 而激活函数将z作为输入,得到新的神经元输出$f(z)$ 这里的$f(z)$即激活函数。激活函数的主要作用是使输出非线性化,即曲线化或者分段化(对应分段函数)。 2:为什么要激活函数从$z=x_1w_1+x_2w_2+x_3w_3+b$不难看出,在没有激活函数时,...

机器学习深度学习李宏毅版-学习笔记

第一章 Regression 回归$$f(input)=output$$ 输入一个对象后,有指定的输出结果。 示例应用:数码宝贝原始cp值,求进化一次后的cp值 Step 1: Model 定义一个函数:确定输入原始cp值和输出进化后的cp值。$$y=b+w*x_{cp}$$ w and b are parameters Step 2: Goodness of Function方程好坏 ...