relu

本文经AI新媒体量子位（公众号ID:QbitAI）授权转载，转载请联系出处。 只要你用了ReLU，我们就是好朋就是“浅度学习”。 最近有研究证明，所有基于ReLU的深度神经网络都可…

,说明,1、线性整流函数，又称为修正性线性单元，ReLU是一个分段函数，其公式为:f(x)=max(0,x)。,2、比Sigmoid函数收敛速度更快。输出以0为中心。由于饱和性产生…