清华AI自强计划"/>
【清华AI自强计划
神经网络为什么有效?
神经网络有一个性质:Universality_——“全包了”(普遍性)——即可代替所有的函数画出决策边界。
简化模型到只有w和b两个参数,激活函数为sigmoid函数,而激活函数的跳变点和-b/w有关。
如果启用隐藏层神经元,同时令w1和w2的绝对值相等,符号相反,并且s1和s2设置为不同取值,则就会出现形如方波信号的图像。
再扩展一步,隐藏层每2个神经元可以画出一个形似方波信号的函数图像,并且能控制这个方波信号的宽度和高度。
更多推荐
【清华AI自强计划
发布评论